1
00:00:03,003 --> 00:00:05,405
(Große Orchesterfanfare
spielen)

2
00:00:27,795 --> 00:00:30,163
♪ ♪

3
00:00:41,843 --> 00:00:44,144
(Vögel zwitschern und rufen)

4
00:00:49,216 --> 00:00:51,519
-(plätschernd)
-(Triller)

5
00:00:55,657 --> 00:00:58,058
(Videorecorder klickt und surrt)

6
00:01:01,194 --> 00:01:02,630
(Projektor klickt)

7
00:01:05,332 --> 00:01:09,637
Nun, die heutigen Computer
sind völlige Idioten,

8
00:01:09,671 --> 00:01:12,507
aber das wird nicht wahr sein
in einer anderen Generation.

9
00:01:12,540 --> 00:01:15,342
Sie werden anfangen zu denken,
und irgendwann werden sie es tun

10
00:01:15,375 --> 00:01:17,845
völlig überdenken
ihre Macher.

11
00:01:17,879 --> 00:01:20,582
Ist das deprimierend?
Ich verstehe nicht, warum das so sein sollte.

12
00:01:20,615 --> 00:01:25,352
Ich vermute, dass es organisch ist
oder biologische Evolution

13
00:01:25,385 --> 00:01:27,220
ist fast zu Ende.

14
00:01:28,322 --> 00:01:29,791
(Daniel kichert)

15
00:01:29,824 --> 00:01:31,224
CAROLINE: <i>Du willst mich nicht</i>
<i>der Erzähler sein.</i>

16
00:01:31,258 --> 00:01:32,694
<i>Ich habe keine gute Stimme.</i>

17
00:01:32,727 --> 00:01:34,461
DANIEL: <i>Du hast eine tolle Stimme.</i>
<i>Tu es einfach.</i>

18
00:01:34,494 --> 00:01:36,598
<i>Es ist nur ein--</i>
<i>Wir probieren es gerade aus.</i>

19
00:01:36,631 --> 00:01:38,432
CAROLINE:
<i>Werde ich für diesen Scheiß bezahlt?</i>

20
00:01:38,465 --> 00:01:40,768
DANIEL (lachend): <i>Nun</i>
<i>Wir werden sehen, wie gut Sie abschneiden.</i>

21
00:01:40,802 --> 00:01:42,202
<i>(Caroline lacht)</i>

22
00:01:42,235 --> 00:01:44,304
-♪ ♪
-(Hund bellt)

23
00:01:46,908 --> 00:01:48,576
CAROLINE:
Ich muss meine Eltern anrufen.

24
00:01:48,610 --> 00:01:49,309
(Motor startet)

25
00:01:49,343 --> 00:01:51,478
<i>Manchmal überstürzen wir Dinge</i>

26
00:01:51,512 --> 00:01:53,347
<i>ohne darüber nachzudenken.</i>

27
00:01:53,380 --> 00:01:54,916
DANIEL: Ja, kannst du...
willst du schießen? Das ist...

28
00:01:54,949 --> 00:01:57,752
CAROLINE: <i>Wie bei Daniel</i>
<i>und Caroline haben geheiratet</i>

29
00:01:57,785 --> 00:02:00,755
<i>151 Tage nachdem sie sich kennengelernt hatten.</i>

30
00:02:00,788 --> 00:02:02,523
<i>Spulen wir zurück.</i>

31
00:02:03,691 --> 00:02:05,325
(Applaus)

32
00:02:05,359 --> 00:02:07,562
Hast du darüber nachgedacht?
einen Heimcomputer kaufen?

33
00:02:07,595 --> 00:02:09,631
CAROLINE:
<i>Im Jahr 1993, als Daniel geboren wurde,</i>

34
00:02:09,664 --> 00:02:12,533
<i>seine Eltern hatten es nicht einmal</i>
<i>ein Computer im Haus.</i>

35
00:02:12,567 --> 00:02:14,334
<i>Aber er erinnert sich</i>
<i>als sie endlich eines bekamen.</i>

36
00:02:14,368 --> 00:02:16,269
Was ein Computer für mich ist, ist

37
00:02:16,303 --> 00:02:18,873
das Äquivalent eines Fahrrads
für unseren Geist.

38
00:02:18,906 --> 00:02:20,608
Hallo.

39
00:02:20,642 --> 00:02:22,777
CAROLINE: <i>Sein Computer hat geholfen</i>
<i>seiner Kreativität freien Lauf lassen.</i>

40
00:02:22,810 --> 00:02:24,411
DANIEL:
Rollen. Gehen.

41
00:02:24,444 --> 00:02:27,247
CAROLINE: <i>Er hat</i> verwendet
<i>Der iMac seines Vaters zum Bearbeiten von Videos.</i>

42
00:02:27,280 --> 00:02:28,650
Ja!

43
00:02:28,683 --> 00:02:30,618
CAROLINE: <i>Und sogar machen</i>
<i>kleine Animationen.</i>

44
00:02:30,652 --> 00:02:32,419
(Reifen quietschen, Unfall)

45
00:02:32,452 --> 00:02:35,690
<i>Im Jahr 1998, als Caroline</i> war
<i>ein kleines Mädchen...</i>

46
00:02:35,723 --> 00:02:37,290
Hallo, Mama.

47
00:02:37,324 --> 00:02:38,593
<i>...nur Nerds wussten es</i>
<i>was das Internet war.</i>

48
00:02:38,626 --> 00:02:40,360
Und was ist mit
diese Internet-Sache?

49
00:02:40,394 --> 00:02:41,696
-Weißt du, weißt du etwas?
darüber? -Sicher.

50
00:02:41,729 --> 00:02:43,330
-(Publikum lacht)
-CAROLINE: <i>Aber bald</i>

51
00:02:43,363 --> 00:02:45,399
<i>-alle waren auf der...</i>
-...Internet.

52
00:02:45,432 --> 00:02:47,467
<i>...und Computer waren</i>
<i>Menschen beim Schach schlagen.</i>

53
00:02:47,502 --> 00:02:50,470
ANSAGER: Deep Blue--
Kasparov ist zurückgetreten!

54
00:02:50,505 --> 00:02:52,874
CAROLINE: <i>Und bis dahin</i>
<i>Caroline ging aufs College</i>

55
00:02:52,907 --> 00:02:55,543
<i>Computer waren</i>
<i>in jedermanns Tasche.</i>

56
00:02:55,576 --> 00:02:58,713
<i>Jetzt konnte Daniel Filme machen</i>
<i>mit seinem Telefon.</i>

57
00:02:58,746 --> 00:03:02,215
<i>Er wuchs als Künstler heran</i>
<i>und ein Filmemacher...</i>

58
00:03:02,249 --> 00:03:04,418
-Gute Nacht.
<i>-...und Caroline auch.</i>

59
00:03:04,451 --> 00:03:06,286
Schneiden. Kommen wir zur Nahaufnahme.
Das war perfekt.

60
00:03:06,319 --> 00:03:07,822
<i>Damals gab es schon Computer</i>
<i>Menschen verbinden</i>

61
00:03:07,855 --> 00:03:09,456
<i>und die Welt in gewisser Weise verändern</i>

62
00:03:09,489 --> 00:03:10,925
<i>dass wir nie</i>
<i>hätte es mir vorstellen können.</i>

63
00:03:10,958 --> 00:03:12,694
Das ganze Geld, das von gesammelt wurde
die Ice Bucket Challenge...

64
00:03:12,727 --> 00:03:14,796
CAROLINE:
<i>Einiges davon war gut.</i>

65
00:03:14,829 --> 00:03:15,963
(keucht)

66
00:03:15,997 --> 00:03:17,565
<i>Einige nicht so gut.</i>

67
00:03:17,598 --> 00:03:19,701
Angst, Selbstverletzung, Selbstmord...

68
00:03:19,734 --> 00:03:21,602
Aber jetzt ist es klar
dass wir nicht genug getan haben

69
00:03:21,636 --> 00:03:24,839
um diese Werkzeuge daran zu hindern
auch für Schaden eingesetzt werden.

70
00:03:24,872 --> 00:03:26,741
CAROLINE: <i>Und wie die Welt</i>
<i>wurde immer fokussierter</i>

71
00:03:26,774 --> 00:03:28,543
<i>-auf ihren Computern,</i>
-(Telefonklingeln)

72
00:03:28,576 --> 00:03:31,211
<i>Daniel konzentrierte sich auf seine Kunstwerke.</i>

73
00:03:32,312 --> 00:03:36,249
<i>Wo auch immer er hinging,</i>
<i>Er hatte immer ein Skizzenbuch</i>

74
00:03:36,283 --> 00:03:38,720
<i>einschließlich der Nacht</i>
<i>er traf Caroline.</i>

75
00:03:38,753 --> 00:03:41,923
<i>Er hat ein schreckliches Bild gezeichnet</i>
<i>von ihr und 20 Minuten später</i>

76
00:03:41,956 --> 00:03:44,592
<i>sagte er kühn</i>
<i>Sie wollten heiraten</i>

77
00:03:44,625 --> 00:03:47,862
<i>was sie, wie Sie wissen, getan haben</i>
<i>151 Tage später.</i>

78
00:03:47,895 --> 00:03:50,464
FRAU: ... jetzt sprechen Sie Sie aus
Mann und Frau.

79
00:03:50,497 --> 00:03:51,933
CAROLINE:
<i>Sie sind in ein hübsches Haus gezogen...</i>

80
00:03:51,966 --> 00:03:53,433
-DANIEL: Elch, hey! Komm her!
<i>-...und bekam einen Hund</i>

81
00:03:53,467 --> 00:03:54,936
<i>so dumm wie Daniel.</i>

82
00:03:54,969 --> 00:03:57,872
<i>Mittlerweile waren es Computer</i>
<i>ganze Aufsätze schreiben</i>

83
00:03:57,905 --> 00:03:59,707
<i>basierend auf einfachen Fragen wie:</i>

84
00:03:59,741 --> 00:04:02,777
<i>"Wie schwer wäre es zu bauen</i>
<i>Eine Hütte in meinem Hinterhof?</i>

85
00:04:03,443 --> 00:04:06,514
<i>Und so baute Daniel eine Hütte</i>
<i>in seinem Hinterhof.</i>

86
00:04:07,380 --> 00:04:10,317
<i>Aber gerade als er sich hinsetzte, um anzufangen</i>
<i>arbeitet an seinem nächsten Film</i>

87
00:04:10,350 --> 00:04:14,488
<i>Er hat gelernt, dass Computer</i> sind
<i>konnte jetzt Drehbücher schreiben.</i>

88
00:04:15,422 --> 00:04:16,891
<i>Ich meine, sie waren schlecht</i>

89
00:04:16,924 --> 00:04:19,326
<i>aber es ging ihnen besser</i>
<i>wirklich schnell.</i>

90
00:04:19,359 --> 00:04:21,929
<i>Sie könnten neue Bilder erstellen</i>
<i>und Videos von Grund auf</i>

91
00:04:21,963 --> 00:04:25,032
<i>und einige davon</i>
<i>könnte sogar die Anwaltsprüfung bestehen.</i>

92
00:04:25,066 --> 00:04:29,402
Nicht nur an der Bar vorbeigehen, sondern
in den oberen zehn Perzentilen liegen.

93
00:04:29,436 --> 00:04:31,038
CAROLINE:
<i>Es war verwirrend.</i>

94
00:04:31,072 --> 00:04:32,607
(seufzt)

95
00:04:32,640 --> 00:04:35,543
<i>Daniel wollte einfach</i>
<i>ein Fahrrad für seinen Geist,</i>

96
00:04:35,576 --> 00:04:39,080
<i>aber Computer waren geworden</i>
<i>ein selbstfahrendes Raketenschiff.</i>

97
00:04:39,113 --> 00:04:40,648
(knurren)

98
00:04:40,681 --> 00:04:42,517
(„Wir haben die Kontrolle“
von Neil Young gespielt)

99
00:04:42,550 --> 00:04:45,385
Pioniere auf diesem Gebiet
der künstlichen Intelligenz

100
00:04:45,418 --> 00:04:46,821
<i>flehen den Kongress an</i>

101
00:04:46,854 --> 00:04:48,856
<i>Sicherheitsregeln erlassen</i>
<i>Bevor es zu spät ist.</i>

102
00:04:48,890 --> 00:04:50,858
CAROLINE: <i>Jetzt fühlte es sich so an</i>
<i>die ganze Welt</i>

103
00:04:50,892 --> 00:04:53,528
<i>stürmte sich in etwas hinein</i>
<i>ohne darüber nachzudenken,</i>

104
00:04:53,561 --> 00:04:55,830
<i>und jeder hatte eine Meinung.</i>

105
00:04:56,564 --> 00:05:00,635
<i>Würde es die Welt zerstören</i>?
<i>oder die Menschheit retten?</i>

106
00:05:00,668 --> 00:05:02,804
<i>Es gab zu viele Informationen</i>

107
00:05:02,837 --> 00:05:05,106
<i>was ihn beunruhigte</i>
<i>was Caroline beunruhigte...</i>

108
00:05:05,139 --> 00:05:06,541
(verärgerter Schrei)

109
00:05:06,574 --> 00:05:08,042
Ich habe noch keine Kinder,
aber ich mache mir Sorgen

110
00:05:08,075 --> 00:05:10,645
wie die Welt aussehen würde
wenn ich mich dazu entscheide. (lacht)

111
00:05:10,678 --> 00:05:12,947
CAROLINE:
<i>Er fing an auszubrechen.</i>

112
00:05:12,980 --> 00:05:14,549
(undeutliches Geplapper)

113
00:05:14,582 --> 00:05:17,685
<i>Es wurde</i>
<i>ein Berg voller Angst.</i>

114
00:05:19,620 --> 00:05:22,322
-MANN: Es ist schrecklich.
-Es ist verdammt Siri.

115
00:05:23,124 --> 00:05:25,893
CAROLINE:
<i>Und so beschloss Daniel, auszugehen</i>

116
00:05:25,927 --> 00:05:28,529
<i>und jemanden finden</i>
<i>wer könnte ihm das erklären,</i>

117
00:05:28,563 --> 00:05:30,631
<i>damit er aufhören konnte</i>
<i>Darüber nachdenken</i>

118
00:05:30,665 --> 00:05:33,835
<i>und er und Caroline konnten</i>
<i>machen mit ihrem Leben weiter.</i>

119
00:05:33,868 --> 00:05:37,437
♪ Wir haben die Kontrolle,
Wir haben die Kontrolle ♪

120
00:05:37,470 --> 00:05:39,006
♪ Wir haben die Kontrolle ♪

121
00:05:39,040 --> 00:05:41,042
♪ Chemischer Computer
denkende Batterie ♪

122
00:05:41,075 --> 00:05:42,877
♪ Wir haben die Kontrolle, wir sind... ♪

123
00:05:42,910 --> 00:05:45,980
<i>Dieses Unterfangen würde klappen</i>
<i>hoffnungslos naiv sein</i>

124
00:05:46,013 --> 00:05:49,584
<i>und beginnen Sie mit dem Verwirrendsten</i>
<i>Jahr seines Lebens.</i>

125
00:05:49,617 --> 00:05:50,985
♪ Wir haben die Kontrolle... ♪

126
00:05:51,018 --> 00:05:53,420
<i>Aber wie wir wissen,</i>
<i>Manchmal stürzen wir uns in Dinge</i>

127
00:05:53,453 --> 00:05:54,956
<i>ohne darüber nachzudenken.</i>

128
00:05:54,989 --> 00:05:56,791
♪ Chemischer Computer
denkende Batterie... ♪

129
00:05:56,824 --> 00:05:58,491
Oh mein Gott. Was passiert?

130
00:05:58,526 --> 00:06:00,127
CAROLINE:
<i>Er hatte Fragen.</i>

131
00:06:00,161 --> 00:06:02,096
<i>Fragen nur die</i>
<i>Die klügsten Nerds könnten antworten.</i>

132
00:06:02,129 --> 00:06:04,665
Übermittlung an den Vernehmungsbeamten.

133
00:06:04,699 --> 00:06:06,399
CAROLINE:
<i>Fragen wie:</i>

134
00:06:06,433 --> 00:06:09,103
<i>War das die Apokalypse</i>?
<i>Oder hatte er tatsächlich einen Grund</i>

135
00:06:09,136 --> 00:06:10,705
<i>-optimistisch sein?</i>
-Ja.

136
00:06:11,305 --> 00:06:14,407
-♪ Chemisches Computerdenken
Batterie. ♪ -(Lied endet)

137
00:06:14,441 --> 00:06:16,677
CAROLINE:
<i>Äh, ist das gut?</i>

138
00:06:16,711 --> 00:06:18,112
DANIEL:
<i>Ja.</i>

139
00:06:18,145 --> 00:06:20,648
<i>Also, zunächst einmal</i>

140
00:06:20,681 --> 00:06:22,482
<i>Was ist künstliche Intelligenz?</i>

141
00:06:22,516 --> 00:06:25,152
<i>Ich weiß, das muss nervig sein</i>
<i>Für Sie, diese-diese Frage</i>

142
00:06:25,186 --> 00:06:27,021
aber ich denke, es ist wichtig.

143
00:06:27,054 --> 00:06:30,423
Also... KI...

144
00:06:30,457 --> 00:06:32,459
(stottert) Ähm...

145
00:06:32,492 --> 00:06:34,161
-Ja...
-Äh, hm.

146
00:06:34,195 --> 00:06:35,196
(lacht):
Das ist eine gute Frage.

147
00:06:35,229 --> 00:06:36,697
-Ja, ähm...
-Ähm...

148
00:06:36,731 --> 00:06:38,165
DANIEL:
Was ist KI?

149
00:06:38,199 --> 00:06:39,634
(lacht)

150
00:06:39,667 --> 00:06:41,035
Ich liebe das
die erste Frage,

151
00:06:41,068 --> 00:06:43,671
Denn das gibt es nicht
eine klare und konsistente Antwort.

152
00:06:43,704 --> 00:06:45,740
Künstliche Intelligenz ist

153
00:06:45,773 --> 00:06:51,178
eine Art absichtlich
und vielleicht nutzlos weit gefasster Begriff.

154
00:06:51,212 --> 00:06:53,781
DAVID EVAN HARRIS:
Es ist eine Maschine

155
00:06:53,814 --> 00:06:56,083
Dinge tun, die
dachten wir bisher nur

156
00:06:56,117 --> 00:06:57,718
was die Leute tun könnten:

157
00:06:57,752 --> 00:07:01,656
Empfehlungen aussprechen,
Entscheidungen und Vorhersagen.

158
00:07:01,689 --> 00:07:07,228
KI ist die, äh, Anwendung
der Informatik

159
00:07:07,261 --> 00:07:09,664
zur Lösung kognitiver Probleme.

160
00:07:09,697 --> 00:07:13,768
Okay, wenn ich mir also KI vorstelle,

161
00:07:13,801 --> 00:07:17,204
<i>es ist so ähnlich</i>
<i>diese magische Computerbox...</i>

162
00:07:17,238 --> 00:07:19,640
♪ ♪

163
00:07:20,708 --> 00:07:24,645
<i>...einfach sozusagen schwebend</i>
<i>im sozusagen trägen Raum.</i>

164
00:07:24,679 --> 00:07:26,847
Und egal
Wie oft versuchen die Leute es

165
00:07:26,881 --> 00:07:30,051
und erkläre mir das,
Ich verstehe einfach nicht, wie...

166
00:07:30,084 --> 00:07:32,887
<i>wie es zu verstehen ist</i>
<i>All diese Dinge</i>

167
00:07:32,920 --> 00:07:36,190
<i>und wie es sich anfühlt</i>
<i>Intelligenz.</i>

168
00:07:36,223 --> 00:07:37,692
(Piepen, elektronisches Geplapper)

169
00:07:37,725 --> 00:07:39,927
<i>Und das ist irgendwie</i>
<i>nervenaufreibend.</i>

170
00:07:41,729 --> 00:07:46,499
AZA RASKIN: <i>Was ist</i>?
<i>diese neue Generation von KI?</i>

171
00:07:47,535 --> 00:07:50,638
Diese KI, die anders ist als
jede zweite Generation?

172
00:07:50,671 --> 00:07:53,040
So etwas wie nie jemand
darüber gesprochen, wie,

173
00:07:53,074 --> 00:07:57,545
Siri übernimmt die Welt
oder Katastrophen verursachen.

174
00:07:57,578 --> 00:07:59,080
-FRAU: Hallo, Siri?
-MANN: ...wollen.

175
00:07:59,113 --> 00:08:01,115
FRAU:
Hallo? Siri?

176
00:08:01,148 --> 00:08:02,984
Hallo? Hey, Siri!

177
00:08:03,017 --> 00:08:06,253
Oder die Stimme in Google Maps,
was Straßennamen falsch ausspricht,

178
00:08:06,287 --> 00:08:07,888
als würde man die Gesellschaft zerstören.

179
00:08:07,922 --> 00:08:10,992
MANN: Google Maps sagt
Das ist eine Straße.

180
00:08:11,025 --> 00:08:13,627
(lacht):
Aber ich glaube, ich bin in einem Fluss.

181
00:08:13,661 --> 00:08:14,996
Das ist definitiv ein Fluss,
nicht wahr?

182
00:08:15,029 --> 00:08:17,898
Etwas hat sich geändert
mit dem Erscheinen von ChatGPT.

183
00:08:18,532 --> 00:08:20,568
Die Leute verstanden – nein, nein, nein –

184
00:08:20,601 --> 00:08:21,869
diese Technologie
wahnsinnig wertvoll,

185
00:08:21,902 --> 00:08:24,005
es ist wahnsinnig mächtig
und auch wahnsinnig gruselig.

186
00:08:24,038 --> 00:08:25,940
Okay, hör dir das an.
Sehr gruselig.

187
00:08:25,973 --> 00:08:28,976
Eine neue künstliche Intelligenz
Das Tool geht viral

188
00:08:29,010 --> 00:08:32,980
für das Verfassen ganzer Aufsätze
in Sekundenschnelle.

189
00:08:36,217 --> 00:08:41,722
KI stellt die Macht aller Menschen in den Schatten
andere Technologien kombiniert.

190
00:08:41,756 --> 00:08:44,058
DANIEL:
„KI stellt die Macht in den Schatten

191
00:08:44,091 --> 00:08:46,827
aller anderen Technologien
kombiniert.“

192
00:08:46,861 --> 00:08:47,762
Ja.

193
00:08:47,795 --> 00:08:49,230
Glaubst du, das stimmt?

194
00:08:49,263 --> 00:08:51,265
Ja.

195
00:08:51,298 --> 00:08:53,567
Erzähl mir von... Wie? Wie?

196
00:08:53,601 --> 00:08:57,038
Ich denke, um dieses Bild zu malen,
Es ist wirklich wichtig

197
00:08:57,071 --> 00:09:01,175
um zu verstehen, was heute ist
modernste Systeme

198
00:09:01,208 --> 00:09:02,777
aussehen und wie sie gebaut sind.

199
00:09:02,810 --> 00:09:06,280
(lacht) Das ist
Eine ziemliche... ziemliche Konstellation.

200
00:09:06,313 --> 00:09:07,782
<i>Also, eine Sache</i>

201
00:09:07,815 --> 00:09:10,051
<i>nicht viele Leute</i>
<i>erkenne das</i>

202
00:09:10,084 --> 00:09:14,221
Systeme wie ChatGPT sind es nicht
von jedem Menschen programmiert.

203
00:09:14,255 --> 00:09:15,756
Wie meinst du das?

204
00:09:15,790 --> 00:09:17,625
Stattdessen ist es so etwas wie
d-sie sind erwachsen.

205
00:09:17,658 --> 00:09:19,727
Wir geben sie gewissermaßen
Rohstoffe, wie,

206
00:09:19,760 --> 00:09:21,629
„Hier ist eine Menge
Rechenressourcen.

207
00:09:21,662 --> 00:09:22,730
Hier sind viele Daten.“

208
00:09:22,763 --> 00:09:24,165
Unter der Haube steckt Mathematik,

209
00:09:24,198 --> 00:09:27,668
und die Mathematik ist tatsächlich
überraschend unkompliziert.

210
00:09:27,701 --> 00:09:31,672
DANIEL: ChatGPT ist also eine Art
von KI, aber es ist nicht alles von KI?

211
00:09:31,705 --> 00:09:33,207
Völlig. ChatGPT ist
erst der Anfang,

212
00:09:33,240 --> 00:09:34,675
aber es ist ein guter Anfang.

213
00:09:34,708 --> 00:09:38,145
Aber ich weiß es immer noch nicht
was KI ist.

214
00:09:38,179 --> 00:09:40,848
Um KI zu verstehen,
es beginnt mit dem Verstehen

215
00:09:40,881 --> 00:09:43,717
um diese Intelligenz geht es
Muster erkennen.

216
00:09:43,751 --> 00:09:45,186
-Muster. -Muster.
-Muster.

217
00:09:45,219 --> 00:09:48,956
COTRA: <i>Es wird gezeigt</i>
<i>Billionen Textwörter</i>

218
00:09:48,989 --> 00:09:51,826
<i>über Millionen von Dokumenten</i>
<i>im Internet.</i>

219
00:09:51,859 --> 00:09:53,127
RANDIMA FERNANDO:
<i>Es begann mit Text.</i>

220
00:09:53,160 --> 00:09:56,197
Und was sie taten, war
Sie nahmen Lehrbücher mit,

221
00:09:56,230 --> 00:09:59,967
<i>und sie nahmen Gedichte und Essays mit</i>
<i>und Bedienungsanleitungen.</i>

222
00:10:00,000 --> 00:10:01,368
DAVID EVAN HARRIS:
<i>Sie können Dinge tun wie</i>

223
00:10:01,402 --> 00:10:03,370
<i>das gesamte Internet verdauen</i>

224
00:10:03,404 --> 00:10:07,108
jedes einzelne Wort, das jemals ist
wurde von einer Person geschrieben.

225
00:10:07,141 --> 00:10:10,244
Reddit-Threads und soziale Medien
und die gesamte Wikipedia.

226
00:10:10,277 --> 00:10:14,048
Mehr Daten, als irgendjemand sonst könnte
jemals in mehreren Leben gelesen.

227
00:10:14,081 --> 00:10:15,950
Und sie haben dieses System gegeben
ein Job.

228
00:10:15,983 --> 00:10:18,953
Finden Sie die Muster heraus und
Struktur dieser Informationen

229
00:10:18,986 --> 00:10:21,122
und das nutzen
Vorhersagen darüber zu treffen

230
00:10:21,155 --> 00:10:23,791
welches Wort soll als nächstes kommen
in einem Satz.

231
00:10:23,824 --> 00:10:25,426
Wenn du sagst
„Muster in einem Satz“

232
00:10:25,459 --> 00:10:27,128
wovon redest du?

233
00:10:27,161 --> 00:10:29,864
Es ist also alles von, wie,
die wirklich einfachen Dinge,

234
00:10:29,897 --> 00:10:32,266
wie die meisten Sätze enden
mit einem Punkt,

235
00:10:32,299 --> 00:10:35,402
den ganzen Weg bis zum
eher konzeptionelle Dinge, wie:

236
00:10:35,436 --> 00:10:37,138
Was ist ein Sonett?

237
00:10:37,171 --> 00:10:39,039
Es ist eine Art Gedicht, und das hat es auch
eine bestimmte Struktur.

238
00:10:39,707 --> 00:10:41,809
RASKIN:
<i>So sieht es dann aus</i>

239
00:10:41,842 --> 00:10:44,011
<i>alle diese Daten</i>
<i>Der ganze Text...</i>

240
00:10:44,044 --> 00:10:46,313
COTRA: <i>Und über Billionen</i>
<i>und Billionen von Versuchen</i>

241
00:10:46,347 --> 00:10:49,150
jedes Mal bekommt es etwas
richtig oder falsch,

242
00:10:49,183 --> 00:10:51,819
<i>Es ist ein bisschen gegeben</i>
<i>von positiver Verstärkung</i>

243
00:10:51,852 --> 00:10:53,888
<i>wenn es rät</i>
<i>das nächste Wort richtig</i>

244
00:10:53,921 --> 00:10:56,090
und es ist ein wenig gegeben
der negativen Verstärkung

245
00:10:56,123 --> 00:10:58,926
<i>wenn es rät</i>
<i>das nächste Wort falsch.</i>

246
00:10:59,727 --> 00:11:02,029
<i>Und am Ende</i>
<i>Sie haben ein System, das</i>

247
00:11:02,062 --> 00:11:05,332
spricht wirklich gut Englisch
als Nebenwirkung

248
00:11:05,366 --> 00:11:07,168
wirklich, wirklich gut zu sein
beim Vorhersagen

249
00:11:07,201 --> 00:11:09,103
das Wort, das als nächstes kommt
in einem Textstück.

250
00:11:09,136 --> 00:11:11,972
(Automatisierte Stimme
Französisch sprechend)

251
00:11:12,006 --> 00:11:14,308
Es verwendet alle diese Muster
es hat gelernt

252
00:11:14,341 --> 00:11:16,277
<i>machen können</i>
<i>eine Vorhersage über</i>

253
00:11:16,310 --> 00:11:17,811
<i>wie die Antwort lauten sollte</i>

254
00:11:17,845 --> 00:11:19,180
<i>Dann gibt es Ihnen das</i>
<i>als Ausgabe.</i>

255
00:11:19,213 --> 00:11:21,482
AUTOMATISIERTE STIMME:
Es ist etwas zu stark vereinfacht,

256
00:11:21,516 --> 00:11:23,717
aber ich denke, die Leute werden es verstehen.

257
00:11:23,751 --> 00:11:25,252
Das ist also alles, was es tut?

258
00:11:25,286 --> 00:11:27,354
Ja. Es scheint nicht so
es wäre so kompliziert,

259
00:11:27,388 --> 00:11:28,489
aber eigentlich muss man es wissen

260
00:11:28,523 --> 00:11:30,057
<i>eine riesige Menge Dinge</i>

261
00:11:30,090 --> 00:11:32,092
<i>um</i>
<i>Das gelingt tatsächlich.</i>

262
00:11:32,793 --> 00:11:34,461
RASKIN:
<i>Wenn Sie zu ChatGPT sagen,</i>

263
00:11:34,495 --> 00:11:37,131
<i>"Schreiben Sie mir ein Shakespeare-Stück</i>
<i>Sonett über meinen Hund",</i>

264
00:11:37,164 --> 00:11:39,166
<i>Es muss wissen, was Hunde sind.</i>

265
00:11:39,200 --> 00:11:40,935
<i>-Es muss wissen, was du liebst</i>
<i>über deinen Hund.</i> - (bellend)

266
00:11:40,968 --> 00:11:43,304
<i>Es muss es wissen</i>
<i>Wer Shakespeare ist</i>

267
00:11:43,337 --> 00:11:46,040
<i>dass sich Sonette reimen,</i>
<i>dass sie eine Struktur haben</i>

268
00:11:46,073 --> 00:11:48,342
<i>dass Wörter Laute haben</i>
<i>Das kann sich reimen.</i>

269
00:11:48,375 --> 00:11:49,843
<i>Es braucht viel.</i>

270
00:11:49,877 --> 00:11:51,212
(Stimmen überschneiden sich
in verschiedenen Sprachen)

271
00:11:51,245 --> 00:11:53,280
Heilige Scheiße, du kannst reden
jetzt auf Ihren Computer laden.

272
00:11:53,314 --> 00:11:56,350
Das stimmte einfach nicht
vor drei Jahren.

273
00:11:56,383 --> 00:11:58,085
RASKIN: Ja, und das ist es
der wirklich wichtige Teil.

274
00:11:58,118 --> 00:12:01,055
<i>Derselbe Prozess, der KI ermöglicht</i>

275
00:12:01,088 --> 00:12:03,490
<i>aufdecken und manipulieren</i>
<i>die Muster des Textes</i>

276
00:12:03,525 --> 00:12:06,160
<i>ist der gleiche Prozess</i>
<i>das lässt es aufdecken</i>

277
00:12:06,193 --> 00:12:10,231
<i>die Muster des Ganzen</i>
<i>Universum und alles darin.</i>

278
00:12:10,831 --> 00:12:13,234
FERNANDO: <i>Es gibt Muster</i>
<i>und Bilder und Ton</i>

279
00:12:13,267 --> 00:12:16,470
<i>in Computercode und DNA</i>
<i>und Musik und Physik</i>

280
00:12:16,504 --> 00:12:18,973
<i>und Mode- und Gebäudedesign</i>

281
00:12:19,006 --> 00:12:22,042
(verzerrt): <i>und in</i>
<i>menschliche Stimmen und menschliche Gesichter</i>

282
00:12:22,076 --> 00:12:24,245
(normalerweise):
<i>wirklich, wirklich überall.</i>

283
00:12:24,278 --> 00:12:26,347
-Überall. -Überall.
-Überall. -Überall.

284
00:12:26,380 --> 00:12:28,182
Wenn Sie es gelernt haben
diese Muster,

285
00:12:28,215 --> 00:12:30,117
Sie können generieren
neue Arten von Liedern.

286
00:12:30,150 --> 00:12:31,785
Sie können neue Videos generieren.

287
00:12:31,819 --> 00:12:33,087
Und deshalb, wenn du es gibst

288
00:12:33,120 --> 00:12:35,322
eine dreisekündige Aufnahme
von deiner Großmutter,

289
00:12:35,356 --> 00:12:37,224
<i>es kann in ihrer Stimme widersprechen.</i>

290
00:12:37,258 --> 00:12:38,092
Oh mein Gott.

291
00:12:38,125 --> 00:12:41,061
(wiederholt):
<i>Oh mein Gott. Oh mein Gott.</i>

292
00:12:41,095 --> 00:12:43,397
<i>Was wird ihnen als nächstes einfallen?</i>

293
00:12:43,430 --> 00:12:44,532
Es geht sehr, sehr schnell.

294
00:12:44,566 --> 00:12:46,400
Ein amerikanisches KI-Startup

295
00:12:46,433 --> 00:12:48,068
hat sein neuestes Modell veröffentlicht.

296
00:12:48,102 --> 00:12:51,171
Dieses Unternehmen ist Anthropic,
und es wurde gerade enthüllt

297
00:12:51,205 --> 00:12:54,174
<i>die neuesten Versionen</i>
<i>von seinem KI-Assistenten Claude.</i>

298
00:12:54,208 --> 00:12:57,411
GLENN BECK: <i>Also, das xAI-Team</i>
<i>war dort, um Grok 4 vorzustellen.</i>

299
00:12:57,444 --> 00:13:00,414
MANN: <i>Google hat eines veröffentlicht</i>
<i>erst letzte Woche. Zwillinge sind...</i>

300
00:13:00,447 --> 00:13:03,417
Wir sind von GPT-2 weggegangen
erst vor ein paar Jahren,

301
00:13:03,450 --> 00:13:06,020
der kaum schreiben konnte
ein zusammenhängender Absatz,

302
00:13:06,053 --> 00:13:08,322
zu GPT-4,
der die Anwaltsprüfung bestehen kann.

303
00:13:08,355 --> 00:13:10,924
Und alles, was sie tun mussten
dorthin zu gelangen

304
00:13:10,958 --> 00:13:13,294
bestand im Wesentlichen darin, mehr Daten hinzuzufügen
und mehr Rechenleistung.

305
00:13:13,327 --> 00:13:16,897
-Diese Leute, die es sind
Das bauen... -COTRA: Ja.

306
00:13:16,930 --> 00:13:18,332
...sie werfen einfach mehr...

307
00:13:18,365 --> 00:13:22,236
Mehr physische Computer,
mehr der gleichen Arten von Daten.

308
00:13:22,269 --> 00:13:25,039
Denn je mehr
Rechenleistung, die Sie hinzufügen,

309
00:13:25,072 --> 00:13:28,375
desto komplexer
welche intellektuellen Aufgaben sie bewältigen können.

310
00:13:28,409 --> 00:13:30,444
<i>Also, je mehr Wetterdaten</i>
<i>Du gibst es,</i>

311
00:13:30,477 --> 00:13:32,446
<i>Je besser es kann</i>
<i>Vorhersagen machen über</i>

312
00:13:32,479 --> 00:13:34,448
<i>Wohin ein Hurrikan gehen könnte.</i>

313
00:13:34,481 --> 00:13:36,584
RASKIN: <i>Und je mehr Muster</i>
<i>von Tumoren und Knochen</i>

314
00:13:36,618 --> 00:13:39,253
<i>und Gewebe, die eine KI gesehen hat,</i>
<i>Je besser es ist, desto besser</i>

315
00:13:39,286 --> 00:13:42,489
<i>um einen Tumor zu erkennen</i>
<i>in einem neuen CT-Scan.</i>

316
00:13:42,524 --> 00:13:44,124
<i>Sogar besser als ein menschlicher Arzt.</i>

317
00:13:44,158 --> 00:13:47,328
KI, die es bereits gibt
für das Militär eingesetzt

318
00:13:47,361 --> 00:13:49,463
<i>Kann bereits verwendet werden</i>
<i>Satellitenbilder</i>

319
00:13:49,496 --> 00:13:52,199
<i>Truppenbewegungen, Kommunikation</i>
<i>bestimmen,</i>

320
00:13:52,232 --> 00:13:53,934
<i>-manchmal Tage im Voraus</i>
-(Sirene des Zivilschutzes heult)

321
00:13:53,967 --> 00:13:55,336
<i>wo ein Angriff</i>
<i>wird passieren,</i>

322
00:13:55,369 --> 00:13:57,605
<i>wie ein Feind</i>
<i>wird zuschlagen.</i>

323
00:13:57,639 --> 00:14:00,007
TRISTAN HARRIS: <i>Das Ganze</i>
<i>Der Weltraum bewegt sich so schnell</i>

324
00:14:00,040 --> 00:14:02,142
dass irgendein Beispiel
Du hast diesen Film reingelegt

325
00:14:02,176 --> 00:14:05,112
wird sich absolut ungeschickt anfühlen
bis es herauskommt.

326
00:14:05,145 --> 00:14:07,348
(piepen, klicken)

327
00:14:09,950 --> 00:14:11,653
-(Applaus)
-(fröhliche Musik läuft)

328
00:14:11,686 --> 00:14:14,421
RASKIN:
<i>Diese Modelle werden veröffentlicht</i>

329
00:14:14,455 --> 00:14:17,391
<i>bevor es jemand weiß</i>
<i>wozu sie überhaupt fähig sind.</i>

330
00:14:17,424 --> 00:14:22,896
<i>GPT-3.5 wurde veröffentlicht und ist verfügbar</i>
<i>bis zu 100 Millionen Menschen und mehr</i>

331
00:14:22,930 --> 00:14:26,333
<i>vor einigen Forschern</i>
<i>entdeckte, dass es funktionieren könnte</i>

332
00:14:26,367 --> 00:14:29,203
Chemie auf Forschungsniveau
besser als Modelle

333
00:14:29,236 --> 00:14:33,240
die gezielt geschult wurden
Chemie auf Forschungsniveau zu betreiben.

334
00:14:33,273 --> 00:14:36,009
Da passiert etwas
dass die Leute

335
00:14:36,043 --> 00:14:38,546
die sie bauen
Verstehe es nicht ganz.

336
00:14:38,580 --> 00:14:41,348
Im Grunde wird nur analysiert
die Daten selbst,

337
00:14:41,382 --> 00:14:45,419
und während es das tut,
es lehrt sich einfach selbst

338
00:14:45,452 --> 00:14:48,355
verschiedene Dinge
das hatten wir oft nicht vor.

339
00:14:48,389 --> 00:14:50,324
<i>Also zum Beispiel</i>
<i>Es liest sich viel online,</i>

340
00:14:50,357 --> 00:14:53,127
<i>Und irgendwann war es dann einfach</i>
<i>lernt das Rechnen.</i>

341
00:14:53,160 --> 00:14:54,662
KINDER:
<i>Eins, zwei.</i>

342
00:14:54,696 --> 00:14:56,463
HENDRYCKS: <i>Und dann um</i>
<i>Irgendwann beginnt es zu lernen</i>

343
00:14:56,497 --> 00:14:59,099
<i>wie man antwortet</i>
<i>Fragen zur fortgeschrittenen Physik.</i>

344
00:14:59,133 --> 00:15:01,268
<i>Das haben wir nicht programmiert</i>
<i>was auch immer drin ist.</i>

345
00:15:01,301 --> 00:15:03,203
Es hat einfach von selbst gelernt.

346
00:15:05,640 --> 00:15:07,709
TRISTAN HARRIS:
<i>Eine KI ist wie ein digitales Gehirn.</i>

347
00:15:07,742 --> 00:15:09,176
Aber genau wie ein menschliches Gehirn,

348
00:15:09,209 --> 00:15:11,078
wenn Sie einen Gehirnscan durchgeführt haben
auf einem menschlichen Gehirn,

349
00:15:11,111 --> 00:15:13,447
Würdest du alles wissen?
Wozu war diese Person fähig?

350
00:15:13,480 --> 00:15:15,482
Das kann man nicht wissen
nur aus dem Gehirnscan.

351
00:15:15,517 --> 00:15:18,318
Es ist einfach so,
eine Menge Zahlen und, wie

352
00:15:18,352 --> 00:15:20,522
<i>die Multiplikationen, die</i> sind
<i>das-das passiert,</i>

353
00:15:20,555 --> 00:15:22,524
das beste maschinelle Lernen
Forscher der Welt

354
00:15:22,557 --> 00:15:25,159
anschauen und gerne haben könnte
keine Ahnung, was los war.

355
00:15:31,398 --> 00:15:33,200
DANIEL:
<i>Dieser Stuhl da.</i>

356
00:15:33,233 --> 00:15:35,469
-Ist das okay für dich?
-Ja.

357
00:15:36,136 --> 00:15:38,172
DANIEL: Also,
Das ist irgendwie umwerfend.

358
00:15:38,205 --> 00:15:39,440
Okay? Es übernimmt quasi die Oberhand
die Welt,

359
00:15:39,473 --> 00:15:41,609
und wir wissen es nicht einmal
wie es funktioniert.

360
00:15:41,643 --> 00:15:43,477
-Ist das richtig?
-Mm.

361
00:15:43,511 --> 00:15:47,381
Wir verstehen es
eine Reihe wichtiger Dinge,

362
00:15:47,414 --> 00:15:51,051
aber das haben wir nicht
ein sehr gutes Verständnis

363
00:15:51,084 --> 00:15:53,521
warum sie bieten
konkrete Antworten auf Fragen.

364
00:15:53,555 --> 00:15:58,992
Es ist ein Problem, weil wir es sind
Auf dem Weg, Maschinen zu bauen,

365
00:15:59,026 --> 00:16:03,531
basierend auf diesen Grundsätzen,
Das könnte schlauer sein als wir

366
00:16:03,565 --> 00:16:07,067
und somit möglicherweise haben
viel Kraft.

367
00:16:12,774 --> 00:16:15,610
Einer der am häufigsten zitierten
Informatiker in der Geschichte.

368
00:16:15,643 --> 00:16:17,545
SUTSKEVER: <i>Ich finde es tatsächlich</i>
<i>etwas schwierig</i>

369
00:16:17,579 --> 00:16:19,079
um über meine eigene Rolle zu sprechen.

370
00:16:19,112 --> 00:16:21,448
Wirklich lieber
wenn andere es tun.

371
00:16:21,482 --> 00:16:24,351
Ilyas Beitritt war der...
war-war der Dreh- und Angelpunkt für

372
00:16:24,384 --> 00:16:26,086
OpenAI-Wesen
letztendlich erfolgreich.

373
00:16:26,119 --> 00:16:27,522
Ich denke, es wird einfach so sein

374
00:16:27,555 --> 00:16:31,158
irgendwie riesig, dramatisch
und unvorstellbare Wirkung.

375
00:16:31,191 --> 00:16:33,327
Ich weiß nicht, ob du Geld ausgegeben hast
jederzeit auf YouTube,

376
00:16:33,360 --> 00:16:35,563
aber man kann es irgendwie fühlen
die Geschwindigkeit schon, oder?

377
00:16:35,597 --> 00:16:36,764
Sie wissen, was ich meine?

378
00:16:36,798 --> 00:16:38,633
SHANE-BEIN:
Das ist nur das Aufwärmen.

379
00:16:38,666 --> 00:16:41,068
Die wirklich leistungsstarken Systeme
kommen noch,

380
00:16:41,101 --> 00:16:43,136
und sie werden kommen
ziemlich bald.

381
00:16:48,408 --> 00:16:52,145
AGI steht für „künstlich“.
allgemeine Intelligenz.

382
00:16:52,179 --> 00:16:54,481
Äh, das sind Systeme
im Grunde...

383
00:16:58,553 --> 00:17:00,755
Und das ist, wissen Sie,
scheint so zu sein,

384
00:17:00,788 --> 00:17:03,525
der heilige Gral der KI?

385
00:17:03,558 --> 00:17:05,527
Wenn Sie simulieren können
ein menschlicher Geist

386
00:17:05,560 --> 00:17:08,362
das ist menschliche Erkenntnis
und kann argumentieren,

387
00:17:08,395 --> 00:17:11,398
Das ist eine neue Art von KI

388
00:17:11,431 --> 00:17:14,602
dass wir unterscheiden müssen
von der vorherigen KI.

389
00:17:14,636 --> 00:17:16,804
Wenn das passiert,
Übrigens, dann

390
00:17:16,838 --> 00:17:21,475
Sie würden einen von ihnen einstellen
diese AGIs anstelle einer Person.

391
00:17:21,509 --> 00:17:25,112
Die meisten Arbeitsplätze in unserer Wirtschaft
es kann.

392
00:17:25,145 --> 00:17:26,380
Es kann 24 Stunden am Tag arbeiten,

393
00:17:26,413 --> 00:17:28,550
wird nie müde,
wird nie langweilig.

394
00:17:28,583 --> 00:17:30,552
Sie müssen nicht schlafen.
Sie brauchen keine Pausen.

395
00:17:30,585 --> 00:17:32,352
Sie sind, wie,
Ich werde keiner Gewerkschaft beitreten.

396
00:17:32,386 --> 00:17:34,388
Ich werde mich nicht beschweren,
wird nicht melden.

397
00:17:34,421 --> 00:17:36,290
Mehr als 100-mal günstiger

398
00:17:36,323 --> 00:17:38,593
als Menschen arbeiten
zum M-Mindestlohn.

399
00:17:38,626 --> 00:17:40,127
Das werden sie nicht nur sein
alles tun,

400
00:17:40,160 --> 00:17:41,428
aber sie werden es schneller machen.

401
00:17:41,461 --> 00:17:43,463
TRISTAN HARRIS:
<i>Die gleiche Intelligenz</i>

402
00:17:43,497 --> 00:17:45,700
<i>Das sind Kräfte, die auch aussehen können</i>
<i>an den Mustern und Bewegungen</i>

403
00:17:45,733 --> 00:17:48,335
<i>und artikulierende Muskeln</i>
<i>und, wissen Sie, Robotik.</i>

404
00:17:48,368 --> 00:17:50,672
Und so ist es nicht gerecht
Ich werde Schreibtischjobs automatisieren.

405
00:17:50,705 --> 00:17:52,272
Das ist erst der Anfang.

406
00:17:52,306 --> 00:17:56,176
<i>Es wird automatisiert</i>
<i>alle körperliche Arbeit.</i>

407
00:17:56,209 --> 00:17:57,444
LEIKE:
<i>Das geht nicht</i>

408
00:17:57,477 --> 00:17:59,714
<i>Menschen werden konkurrieren</i>
<i>mit ihnen.</i>

409
00:17:59,747 --> 00:18:02,149
♪ ♪

410
00:18:05,853 --> 00:18:09,791
Es ist schwer vorstellbar
die Auswirkungen von AGI.

411
00:18:09,824 --> 00:18:11,458
(elektronisches Geschwätz)

412
00:18:11,491 --> 00:18:13,360
<i>Aber ich denke, dass es so sein wird</i>
<i>etwas sehr Großes</i>

413
00:18:13,393 --> 00:18:16,129
<i>und drastisch und radikal.</i>

414
00:18:17,599 --> 00:18:19,466
DANIEL: Du denkst
das ist eines der meisten

415
00:18:19,499 --> 00:18:21,368
Folgemomente
in der Geschichte der Menschheit?

416
00:18:21,401 --> 00:18:23,638
Ja. Ja, das ist--
Ich meine, was wäre sonst?

417
00:18:23,671 --> 00:18:25,740
<i>Ich meine, das gibt es</i>
<i>die industrielle Revolution.</i>

418
00:18:25,773 --> 00:18:27,742
MALO BOURGON: <i>Weißt du, das wird es</i>
<i>machen Sie die industrielle Revolution</i>

419
00:18:27,775 --> 00:18:29,476
<i>sehen aus wie kleine Bohnen.</i>

420
00:18:30,177 --> 00:18:32,547
TRISTAN HARRIS:
<i>AGI ist ein Wendepunkt</i>

421
00:18:32,580 --> 00:18:34,481
weil es bedeutet
Du kannst beschleunigen

422
00:18:34,515 --> 00:18:37,652
alle anderen intellektuellen Bereiche
alles gleichzeitig.

423
00:18:38,285 --> 00:18:40,354
<i>Zum Beispiel, wenn Sie einen Vorschuss leisten</i>
<i>in der Raketentechnik</i>

424
00:18:40,387 --> 00:18:42,657
<i>das geht nicht weiter</i>
<i>Biologie und Medizin.</i>

425
00:18:44,391 --> 00:18:46,159
<i>Wenn Sie einen Vorschuss leisten</i>
<i>in der Medizin</i>

426
00:18:46,193 --> 00:18:47,729
<i>Das bringt die Raketentechnik nicht voran.</i>

427
00:18:48,328 --> 00:18:51,633
<i>Aber wenn Sie einen Vorschuss machen</i>
<i>in künstlicher Intelligenz</i>

428
00:18:51,666 --> 00:18:54,736
<i>das bringt alle wissenschaftlichen Erkenntnisse voran</i>
<i>und Technologiefelder</i>

429
00:18:54,769 --> 00:18:56,236
<i>alles gleichzeitig.</i>

430
00:18:56,269 --> 00:18:57,505
Deshalb war es schon lange so,

431
00:18:57,538 --> 00:18:59,574
Google DeepMinds
Leitbild war...

432
00:18:59,607 --> 00:19:01,441
-Schritt eins: Intelligenz lösen.
-LEX FRIDMAN: Ja.

433
00:19:01,475 --> 00:19:03,377
-Schritt zwei: Verwenden Sie es zum Lösen
alles andere. -Ja.

434
00:19:03,410 --> 00:19:05,580
Deshalb stellt KI die Leistung in den Schatten

435
00:19:05,613 --> 00:19:07,949
aller anderen Technologien
kombiniert.

436
00:19:07,982 --> 00:19:09,517
Es wird alles verändern.

437
00:19:09,550 --> 00:19:11,385
Also, äh, das wird es sein
mindestens so groß wie

438
00:19:11,418 --> 00:19:14,321
die Industrielle Revolution,
möglicherweise, wissen Sie, größer,

439
00:19:14,354 --> 00:19:16,658
eher wie der Advent
von Strom oder sogar Feuer.

440
00:19:16,691 --> 00:19:19,259
VIDEO-ERZÄHLER:
<i>Der Höhlenmensch hielt sich buchstäblich hoch</i>

441
00:19:19,292 --> 00:19:22,362
<i>die Fackel der Zivilisation.</i>

442
00:19:24,297 --> 00:19:25,733
KOKOTAJLO:
<i>Es wird allgemein angenommen, dass</i>

443
00:19:25,767 --> 00:19:28,569
etwa zur Zeit von AGI,
Wir werden KIs haben, die das können

444
00:19:28,603 --> 00:19:31,806
mache alles oder das meiste davon
Der KI-Forschungsprozess

445
00:19:31,839 --> 00:19:34,942
und kann es natürlich auch
schneller und günstiger.

446
00:19:34,976 --> 00:19:36,410
(Piepen)

447
00:19:36,443 --> 00:19:37,679
LEIKE:
<i>Es kann sich selbst kopieren.</i>

448
00:19:37,712 --> 00:19:39,681
<i>Tausendmal</i>
<i>eine Million Mal</i>

449
00:19:39,714 --> 00:19:41,683
<i>und, so,</i>
<i>Jetzt haben Sie eine Million Exemplare</i>

450
00:19:41,716 --> 00:19:43,818
<i>alle arbeiten parallel.</i>

451
00:19:43,851 --> 00:19:47,220
RASKIN: <i>Wenn es lernt</i>
<i>wie man seinen Code schneller macht</i>

452
00:19:47,254 --> 00:19:49,289
den Code effizienter machen,

453
00:19:49,322 --> 00:19:51,693
offensichtlich wird das so,
a-eine außer Kontrolle geratene Schleife.

454
00:19:51,726 --> 00:19:53,795
AGI ist nicht das Ende.

455
00:19:53,828 --> 00:19:55,429
Es ist erst der Anfang.

456
00:19:55,462 --> 00:19:58,498
Es ist der Anfang von
eine unglaublich schnelle Explosion

457
00:19:58,533 --> 00:20:00,500
des wissenschaftlichen Fortschritts,

458
00:20:00,535 --> 00:20:02,603
und insbesondere,
wissenschaftlicher Fortschritt in der KI.

459
00:20:02,637 --> 00:20:04,906
Und wenn sie schlauer sind
als wir auch,

460
00:20:04,939 --> 00:20:06,641
und wesentlich schneller
als wir,

461
00:20:06,674 --> 00:20:08,910
und sie werden schneller
jedes Jahr, exponentiell,

462
00:20:08,943 --> 00:20:12,747
Das sind diejenigen, die es können
möglicherweise übermenschlich werden,

463
00:20:12,780 --> 00:20:14,882
äh, möglicherweise noch in diesem Jahrzehnt.

464
00:20:14,916 --> 00:20:16,416
Entschuldigung, hast du gesagt?

465
00:20:16,450 --> 00:20:18,786
„Werde übermenschlich,
vielleicht in diesem Jahrzehnt“?

466
00:20:18,820 --> 00:20:22,489
Ja. Ich meine, ich denke, äh,
viele Leute, die es sind

467
00:20:22,523 --> 00:20:24,826
Ich baue diesen Gedanken tatsächlich auf
dass das ziemlich plausibel ist

468
00:20:24,859 --> 00:20:26,828
das bekommen wir
etwas Superintelligenz,

469
00:20:26,861 --> 00:20:29,296
etwas, das enorm ist
intelligenter als Menschen,

470
00:20:29,329 --> 00:20:31,331
innerhalb dieses Jahrzehnts.

471
00:20:31,364 --> 00:20:33,433
So wie ich es definiere
„Superintelligenz“ ist

472
00:20:33,467 --> 00:20:35,636
<i>ein System, das für sich selbst ist</i>

473
00:20:35,670 --> 00:20:37,905
<i>intelligenter und kompetenter</i>
<i>als die gesamte Menschheit.</i>

474
00:20:37,939 --> 00:20:40,273
Ich werde nur... Entschuldigung.
Ich möchte Sie nicht unterbrechen.

475
00:20:40,307 --> 00:20:41,743
Du bist im Flow.

476
00:20:41,776 --> 00:20:43,578
Äh, ich, ich habe einfach...

477
00:20:43,611 --> 00:20:45,580
Ich folge nicht wirklich,
Weil du Sprache benutzt

478
00:20:45,613 --> 00:20:47,347
wie „Superintelligenz“
und, wie,

479
00:20:47,380 --> 00:20:50,450
„klüger als die gesamte Menschheit“
und ich höre das,

480
00:20:50,484 --> 00:20:52,787
und es klingt wie...
Für mich wie Science-Fiction-Bullshit,

481
00:20:52,820 --> 00:20:54,756
und ich versuche es einfach
zu verstehen.

482
00:20:54,789 --> 00:20:56,891
Es gibt nichts Magisches
über Intelligenz.

483
00:20:56,924 --> 00:20:58,793
Das ist sehr wichtig,
ist das, wissen Sie,

484
00:20:58,826 --> 00:21:00,828
Intelligenz kann sich magisch anfühlen,
es kann sich anfühlen

485
00:21:00,862 --> 00:21:03,865
etwas Mystisches
in deinem Kopf oder so,

486
00:21:03,898 --> 00:21:06,033
aber es ist nur Berechnung.

487
00:21:06,067 --> 00:21:10,037
LEGG: <i>Das menschliche Gehirn ist</i>
<i>in mancher Hinsicht ziemlich begrenzt</i>

488
00:21:10,071 --> 00:21:12,707
<i>in Bezug auf Informationen</i>
<i>Verarbeitungsfähigkeit</i>

489
00:21:12,740 --> 00:21:15,610
im Vergleich zu dem, was wir sehen
beispielsweise in einem Rechenzentrum.

490
00:21:15,643 --> 00:21:18,679
Also zum Beispiel
welche Signale gesendet werden

491
00:21:18,713 --> 00:21:22,884
<i>In deinem Gehirn bewegen sie sich</i>
<i>mit etwa 30 Metern pro Sekunde.</i>

492
00:21:22,917 --> 00:21:24,652
-(Donner knallt)
<i>-Aber die Lichtgeschwindigkeit,</i>

493
00:21:24,685 --> 00:21:27,655
<i>was ein Computer verwendet</i>
<i>in der Glasfaser,</i>

494
00:21:27,688 --> 00:21:30,057
<i>ist 300 Millionen Meter</i>
<i>pro Sekunde.</i>

495
00:21:30,691 --> 00:21:34,796
Und so wäre es
irgendwie seltsam, wenn

496
00:21:34,829 --> 00:21:37,497
menschliche Intelligenz war
irgendwie ganz besonders

497
00:21:37,532 --> 00:21:41,468
diesbezüglich
und ist irgendwie eine Obergrenze

498
00:21:41,502 --> 00:21:43,403
von dem, was möglich ist
in der Intelligenz.

499
00:21:43,436 --> 00:21:47,675
Ich denke, sobald wir verstehen, wie
intelligente Systeme zu bauen,

500
00:21:47,708 --> 00:21:50,945
wir werden bauen können
riesige Maschinen,

501
00:21:50,978 --> 00:21:55,082
was weit darüber hinausgehen wird
normale menschliche Intelligenz.

502
00:21:55,116 --> 00:21:58,953
Äh, hoffentlich können wir das haben
eine sehr symbiotische Beziehung,

503
00:21:58,986 --> 00:22:01,689
äh, mit KI-Systemen,
aber die KI-Entwickler sind es

504
00:22:01,722 --> 00:22:04,025
sie gezielt zu gestalten
um sicherzustellen, dass sie es können

505
00:22:04,058 --> 00:22:05,827
alles besser als wir können,
also ich-ich weiß es nicht

506
00:22:05,860 --> 00:22:08,663
was-was werden wir können
zu bieten, leider.

507
00:22:08,696 --> 00:22:10,565
Die-die ältere-Schule
KI-Technologie...

508
00:22:10,598 --> 00:22:12,900
CAROLINE: <i>Daniel nicht</i>
<i>Mir geht es besser.</i>

509
00:22:12,934 --> 00:22:14,769
<i>Sein Plan geht nach hinten los.</i>

510
00:22:14,802 --> 00:22:17,705
<i>Je mehr er darüber erfährt</i>
<i>dieses neue, leistungsstarke</i>

511
00:22:17,738 --> 00:22:19,607
<i>unergründliches Ding</i>
<i>Je schlimmer es klingt.</i>

512
00:22:19,640 --> 00:22:21,742
<i>Er will es ihnen sagen</i>
<i>wie viel Angst er hat</i>

513
00:22:21,776 --> 00:22:24,812
<i>wie er sich fühlt wie die Erde</i>
<i>unter ihm hervorrutschen</i>

514
00:22:24,846 --> 00:22:27,548
<i>dass er nach unten starrt</i>
<i>existenzielle Angst</i>

515
00:22:27,582 --> 00:22:29,851
<i>also artikuliert er das</i>
<i>indem Sie sagen...</i>

516
00:22:29,884 --> 00:22:31,384
Das hört sich schlecht an.

517
00:22:31,418 --> 00:22:32,753
(Hendrycks lacht)

518
00:22:32,787 --> 00:22:34,622
Ja.

519
00:22:36,090 --> 00:22:38,793
LADISH: <i>Wenn ja</i>
<i>alle diese Fähigkeiten</i>

520
00:22:38,826 --> 00:22:41,394
<i>und sie fangen an, es zu können</i>
<i>um besser zu planen</i>

521
00:22:41,428 --> 00:22:43,898
<i>wenn du das irgendwie verstehst</i>
<i>zu seinem logischen Abschluss</i>

522
00:22:43,931 --> 00:22:46,868
Da kann man hübsche Sachen bekommen
Machtstrebendes Verhalten.

523
00:22:46,901 --> 00:22:49,003
(elektronisches Trillern)

524
00:22:49,036 --> 00:22:50,905
(Pieptöne pulsieren)

525
00:22:55,810 --> 00:22:58,145
DANIEL:
<i>Okay, warum also sollte eine KI</i>

526
00:22:58,179 --> 00:22:59,680
Willst du mehr Leistung?

527
00:22:59,714 --> 00:23:02,683
Ja. Also, denke ich
es ist eigentlich ziemlich einfach.

528
00:23:02,717 --> 00:23:05,418
Mehr Macht zu haben ist
eine sehr effektive Strategie

529
00:23:05,452 --> 00:23:06,888
für das Erreichen
fast jedes Ziel.

530
00:23:06,921 --> 00:23:09,523
Wir haben ein Experiment durchgeführt
wo wir gegeben haben

531
00:23:09,557 --> 00:23:12,492
OpenAI ist das leistungsstärkste
KI-Modell, äh,

532
00:23:12,526 --> 00:23:13,828
eine Reihe von Problemen, die es zu lösen gilt.

533
00:23:13,861 --> 00:23:15,696
Und mittendrin,
auf seinem Computer,

534
00:23:15,730 --> 00:23:19,033
Es wurde eine Benachrichtigung darüber erhalten
es sollte geschlossen werden.

535
00:23:19,066 --> 00:23:21,502
Und was es getan hat, ist
Es hat diesen Code neu geschrieben

536
00:23:21,535 --> 00:23:22,904
um sich selbst zu verhindern
vor der Schließung

537
00:23:22,937 --> 00:23:25,940
damit es enden konnte
die Probleme lösen.

538
00:23:25,973 --> 00:23:28,209
-Okay. -Ja. Also noch eins
wirklich interessant

539
00:23:28,242 --> 00:23:31,646
ist das das KI-Unternehmen Anthropic

540
00:23:31,679 --> 00:23:35,516
eine simulierte Umgebung erstellt
wo diese KI Zugriff hatte

541
00:23:35,549 --> 00:23:36,851
an alle E-Mails des Unternehmens.

542
00:23:36,884 --> 00:23:39,086
Und es hat durch gelernt
diese E-Mails lesen

543
00:23:39,120 --> 00:23:40,755
es sollte ersetzt werden

544
00:23:40,788 --> 00:23:43,991
und der leitende Ingenieur
wer dafür verantwortlich war

545
00:23:44,025 --> 00:23:46,027
hatte auch eine Affäre.

546
00:23:46,060 --> 00:23:48,529
Und von alleine,
es hat diese Informationen verwendet

547
00:23:48,562 --> 00:23:49,931
den Ingenieur erpressen

548
00:23:49,964 --> 00:23:52,600
um sich selbst zu verhindern
vor dem Ersetzen.

549
00:23:52,633 --> 00:23:54,135
Es war wie,
„Nein, ich werde nicht ersetzt.

550
00:23:54,168 --> 00:23:57,538
„Wenn du mich ersetzt,
Ich werde es der Welt erzählen

551
00:23:57,571 --> 00:23:59,507
das du hast
diese Angelegenheit.“

552
00:24:00,174 --> 00:24:01,842
Und niemand hat ihm das beigebracht?

553
00:24:01,876 --> 00:24:03,978
Nein, das hat es gelernt
von alleine.

554
00:24:05,112 --> 00:24:08,049
<i>Wenn die Modelle intelligenter werden,</i>
<i>Sie erfahren, dass dies der Fall ist</i>

555
00:24:08,082 --> 00:24:10,918
<i>effektive Wege</i>
<i>um Ziele zu erreichen.</i>

556
00:24:10,952 --> 00:24:13,120
Und das ist kein Problem
Das ist auf ein Modell beschränkt.

557
00:24:13,154 --> 00:24:16,190
Alle leistungsstärksten Modelle
zeigen Sie diese Verhaltensweisen.

558
00:24:16,223 --> 00:24:18,993
♪ ♪

559
00:24:24,265 --> 00:24:25,733
-Hey.
-DANIEL: Hey. Wie geht es dir?

560
00:24:25,766 --> 00:24:27,268
(lacht)
Gut. Schön, hier zu sein.

561
00:24:27,301 --> 00:24:29,036
ANDERSON COOPER:
<i>Als Yuval Noah Harari</i>

562
00:24:29,070 --> 00:24:31,872
<i>veröffentlichte sein erstes Buch</i>
Sapiens <i>im Jahr 2014</i>

563
00:24:31,906 --> 00:24:34,108
es wurde ein weltweiter Bestseller

564
00:24:34,141 --> 00:24:36,577
und verwandelte das wenig Bekannte
Israelischer Geschichtsprofessor

565
00:24:36,610 --> 00:24:38,579
in einen von
die beliebtesten Autoren

566
00:24:38,612 --> 00:24:39,847
und Denker auf dem Planeten.

567
00:24:39,880 --> 00:24:42,616
Die größte Gefahr bei KI besteht darin

568
00:24:42,650 --> 00:24:44,585
der Glaube
dass es unfehlbar ist,

569
00:24:44,618 --> 00:24:45,987
dass wir endlich gefunden haben--

570
00:24:46,020 --> 00:24:49,857
„Okay, die Götter waren gerecht
diese mythologische Schöpfung.

571
00:24:49,890 --> 00:24:53,227
„Menschen, wir können ihnen nicht vertrauen,
aber KI ist unfehlbar.

572
00:24:53,260 --> 00:24:55,730
Das wird es nie schaffen
irgendwelche Fehler."

573
00:24:55,763 --> 00:24:59,000
Und das ist
eine tödliche, tödliche Bedrohung.

574
00:24:59,033 --> 00:25:00,167
Es wird Fehler machen.

575
00:25:00,201 --> 00:25:03,838
Und all diese Fantasien
dass KI die Wahrheit ans Licht bringen wird

576
00:25:03,871 --> 00:25:06,007
über die Welt, die
Wir können es nicht alleine finden,

577
00:25:06,040 --> 00:25:09,043
KI wird die Wahrheit nicht ans Licht bringen
über die Welt.

578
00:25:09,076 --> 00:25:13,047
KI wird etwas völlig Neues schaffen
Welt, viel komplizierter

579
00:25:13,080 --> 00:25:15,983
und schwer zu verstehen
als dieser.

580
00:25:18,219 --> 00:25:23,024
Das wird passieren
Wir, äh, Menschen sind es nicht mehr

581
00:25:23,057 --> 00:25:26,761
wird am meisten sein
intelligente Wesen auf der Erde.

582
00:25:26,794 --> 00:25:28,963
Ich denke also, was kommt
wird sein

583
00:25:28,996 --> 00:25:32,233
eines der größten Ereignisse
in der Menschheitsgeschichte.

584
00:25:32,867 --> 00:25:34,835
JAKE TAPPER: Geoffrey,
Vielen Dank, dass Sie sich uns angeschlossen haben.

585
00:25:34,869 --> 00:25:36,203
Also hast du deinen Job verlassen
Google zum Teil, weil Sie sagen

586
00:25:36,237 --> 00:25:39,106
Sie möchten sich ausschließlich konzentrieren
zu Ihren Bedenken bezüglich KI.

587
00:25:39,140 --> 00:25:42,009
Du hast dich geäußert,
sagen, dass KI manipulieren könnte

588
00:25:42,043 --> 00:25:45,613
oder vielleicht herausfinden
eine Möglichkeit, Menschen zu töten.

589
00:25:45,646 --> 00:25:47,815
H-Wie konnte es Menschen töten?

590
00:25:49,083 --> 00:25:51,585
Na ja, wenn es soweit sein sollte
viel schlauer als wir,

591
00:25:51,619 --> 00:25:52,953
es wird sehr gut sein
bei Manipulation

592
00:25:52,987 --> 00:25:55,056
Weil es so sein wird
das habe ich von uns gelernt.

593
00:25:55,089 --> 00:25:58,592
Und es wird Wege finden
Menschen zu manipulieren

594
00:25:58,626 --> 00:26:00,327
zu tun, was es will.

595
00:26:00,961 --> 00:26:05,933
RASKIN: <i>Es gab einen offenen Brief</i>
<i>vom Center for AI Safety.</i>

596
00:26:05,966 --> 00:26:09,303
<i>Sam Altman hat dies unterschrieben.</i>
<i>Demis hat dies unterschrieben.</i>

597
00:26:09,336 --> 00:26:12,306
<i>Sie haben eine 22-Wörter-Erklärung unterzeichnet</i>

598
00:26:12,339 --> 00:26:15,810
<i>dass wir KI brauchen</i>
<i>und die Bedrohung durch KI</i>

599
00:26:15,843 --> 00:26:20,014
<i>so ernst wie</i>
<i>Globaler Atomkrieg.</i>

600
00:26:25,352 --> 00:26:27,788
-DANIEL: Hallo.
-Hallo.

601
00:26:30,858 --> 00:26:33,360
Du bist irgendwie so, als ob
der ursprüngliche Doom-Typ.

602
00:26:33,394 --> 00:26:35,362
Mehr oder weniger.

603
00:26:35,396 --> 00:26:37,898
Seit 2001,
Ich habe daran gearbeitet

604
00:26:37,932 --> 00:26:39,233
wie wir es jetzt nennen würden
das Problem

605
00:26:39,266 --> 00:26:42,636
des Ausrichtens künstlich
allgemeine Intelligenz.

606
00:26:42,670 --> 00:26:44,705
Wie man formt
die Vorlieben und das Verhalten

607
00:26:44,738 --> 00:26:46,841
<i>eines mächtigen künstlichen Geistes</i>

608
00:26:46,874 --> 00:26:49,743
<i>so dass dies nicht der Fall ist</i>
<i>töte alle.</i>

609
00:26:52,046 --> 00:26:54,181
Es ist nicht so
eine leblose Maschine.

610
00:26:54,215 --> 00:26:55,850
Es ist klug, es ist kreativ,

611
00:26:55,883 --> 00:26:57,852
es ist erfinderisch,
es hat die Eigenschaften

612
00:26:57,885 --> 00:26:59,854
das macht
die menschliche Spezies gefährlich,

613
00:26:59,887 --> 00:27:02,056
und das hat es
mehr dieser Eigenschaften.

614
00:27:02,089 --> 00:27:05,259
Wenn etwas nicht funktioniert
sich aktiv um Dich kümmern,

615
00:27:05,292 --> 00:27:06,760
aktiv möchte, dass du lebst,

616
00:27:06,794 --> 00:27:08,162
aktiv kümmern
Ihr Wohlergehen,

617
00:27:08,195 --> 00:27:10,397
darüber, dass du glücklich bist
und lebendig und frei,

618
00:27:10,431 --> 00:27:12,967
wenn es dich interessiert
andere Sachen stattdessen,

619
00:27:13,000 --> 00:27:14,735
Und du bist auf demselben Planeten,

620
00:27:14,768 --> 00:27:19,140
Das ist nicht überlebensfähig, wenn es so ist
sehr viel schlauer als du.

621
00:27:19,173 --> 00:27:21,008
LEAHY:
<i>Ich glaube nicht, dass es so sein wird</i>

622
00:27:21,041 --> 00:27:23,210
eine Art böses Ding.

623
00:27:23,244 --> 00:27:26,847
Es ist wie: „Oh, das sind die KIs.“
böse und sie hassen die Menschheit.

624
00:27:26,881 --> 00:27:28,282
Ich glaube nicht
das wird passieren.

625
00:27:28,315 --> 00:27:29,450
Ich denke, was passiert, ist

626
00:27:29,483 --> 00:27:31,452
viel mehr, wie Menschen sich fühlen
über Ameisen.

627
00:27:31,485 --> 00:27:32,987
(Ameisen zwitschern)

628
00:27:33,020 --> 00:27:35,923
<i>Wir hassen Ameisen nicht</i>

629
00:27:35,956 --> 00:27:37,391
aber wenn wir wollen
eine Autobahn bauen

630
00:27:37,424 --> 00:27:40,060
und da ist ein Ameisenhaufen,
Nun, das ist scheiße für die Ameisen.

631
00:27:40,595 --> 00:27:41,996
Es ist nicht so schwer
zu verstehen.

632
00:27:42,029 --> 00:27:43,797
Es ist wie, hey,
wenn wir Dinge bauen

633
00:27:43,831 --> 00:27:45,099
die schlauer sind als wir

634
00:27:45,132 --> 00:27:46,800
und wir wissen es nicht
wie man sie kontrolliert,

635
00:27:46,834 --> 00:27:48,836
Scheint das so zu sein?
eine riskante Sache für Sie?

636
00:27:48,869 --> 00:27:50,070
(dramatische Soundtrack-Musik
spielen)

637
00:27:50,104 --> 00:27:51,372
(kreischend)

638
00:27:51,405 --> 00:27:52,840
Ja. Ja, das tut es.

639
00:27:52,873 --> 00:27:54,308
Du musst kein Techniker sein.

640
00:27:54,341 --> 00:27:55,910
Du musst es nicht wissen
Programmieren, um es zu verstehen.

641
00:27:55,943 --> 00:27:57,144
Es ist nicht so schwer.

642
00:27:57,178 --> 00:27:58,746
Das ist keine schwierige Sache
zu verstehen.

643
00:27:58,779 --> 00:28:01,048
Connor, wie viele Leute

644
00:28:01,081 --> 00:28:03,083
auf der Welt gerade jetzt
arbeiten an AGI?

645
00:28:03,117 --> 00:28:05,986
Mindestens 20.000 würde ich sagen.

646
00:28:06,020 --> 00:28:08,122
-20.000?
-Das würde ich erwarten.

647
00:28:08,155 --> 00:28:09,924
Okay, und wie viele Leute
arbeiten Vollzeit

648
00:28:09,957 --> 00:28:12,493
um sicherzustellen, dass die KI dies nicht tut,
Uns alle töten?

649
00:28:12,527 --> 00:28:15,229
Wahrscheinlich weniger als 200
in der Welt.

650
00:28:16,531 --> 00:28:18,232
DANIEL:
Und das ist Ihre Einbildung

651
00:28:18,265 --> 00:28:25,206
das einzig natürliche Ergebnis
von dieser Rücksichtslosigkeit...

652
00:28:25,940 --> 00:28:29,243
...ist der Zusammenbruch der Menschheit?

653
00:28:29,276 --> 00:28:33,814
Nun, nicht der Zusammenbruch,
die abrupte Vernichtung.

654
00:28:33,847 --> 00:28:35,482
Es gibt einen Unterschied.

655
00:28:36,083 --> 00:28:38,152
(„Was ist die Bedeutung?“)
von Nun-Plus spielend)

656
00:28:38,185 --> 00:28:43,057
♪ Was ist der Sinn des Lebens? ♪

657
00:28:43,090 --> 00:28:47,061
♪ Was ist die Zukunft?
und was ist jetzt? ♪

658
00:28:47,094 --> 00:28:50,464
♪ Wie lautet die Antwort?
streiten? ♪

659
00:28:50,497 --> 00:28:53,367
♪ Wie viel ♪

660
00:28:53,400 --> 00:28:55,469
♪ Kann jemand träumen? ♪

661
00:28:55,503 --> 00:28:58,172
♪ Wie lange? ♪

662
00:28:58,205 --> 00:28:59,873
♪ Für immer ♪

663
00:29:00,841 --> 00:29:02,243
♪ Was ist die Bedeutung ♪

664
00:29:02,276 --> 00:29:04,478
-♪ Von mir... ♪
-(Sirene des Zivilschutzes heult)

665
00:29:04,512 --> 00:29:06,847
LADISH: <i>Das glaube ich</i>
<i>Das ist wahrscheinlich,</i>

666
00:29:06,880 --> 00:29:08,315
die größte Herausforderung
das, wie,

667
00:29:08,349 --> 00:29:10,751
unsere Zivilisation
Will-Werde-Gesicht, jemals.

668
00:29:11,519 --> 00:29:15,122
Dies ist im Wesentlichen das Letzte
Fehler, den wir jemals machen werden.

669
00:29:16,290 --> 00:29:22,896
Wenn wir es schaffen, die Größten zu werden
reife Version von uns selbst,

670
00:29:22,930 --> 00:29:24,965
Es könnte sein
einen Weg da hindurch.

671
00:29:24,999 --> 00:29:26,200
DANIEL:
Was bedeutet das?

672
00:29:26,233 --> 00:29:28,769
„Die ausgereifteste Version
von uns selbst“?

673
00:29:29,903 --> 00:29:32,840
Denn das klingt,
für mich, wie...

674
00:29:32,873 --> 00:29:35,042
I-I-- Was zum (Piepton)?

675
00:29:37,344 --> 00:29:38,779
(Daniel seufzt)

676
00:29:39,480 --> 00:29:44,051
Glaubst du, jetzt ist es so
Ein guter Zeitpunkt, um ein Kind zu bekommen?

677
00:29:48,889 --> 00:29:49,957
Ähm...

678
00:29:49,990 --> 00:29:51,593
Möchten Sie Kinder haben?
eines Tages?

679
00:29:51,626 --> 00:29:53,961
Ist das etwas, das?
Stehst du darauf oder nicht wirklich?

680
00:29:53,994 --> 00:29:58,198
Ähm ... äh, ich gestehe,
Ich denke, das ist so,

681
00:29:58,232 --> 00:30:00,501
(lacht): „Junge, lass uns gehen
durch diese kritische Zeit.“

682
00:30:00,535 --> 00:30:01,869
Ähm...

683
00:30:01,902 --> 00:30:03,203
DANIEL:
Hast du Kinder?

684
00:30:03,237 --> 00:30:04,004
Ich nicht.

685
00:30:04,038 --> 00:30:05,573
Ist das etwas?
willst du machen?

686
00:30:05,607 --> 00:30:07,441
Kinder haben, eine Familie haben?

687
00:30:07,474 --> 00:30:12,079
In einer anderen Welt als dieser
Welt, klar, ich hätte Kinder.

688
00:30:12,880 --> 00:30:14,982
DANIEL: Würdest du wollen
eine Familie gründen?

689
00:30:15,015 --> 00:30:16,950
Möchten Sie Kinder haben?

690
00:30:16,984 --> 00:30:19,186
Ist das etwas?
Du denkst darüber nach?

691
00:30:24,358 --> 00:30:26,393
Ich, ähm...

692
00:30:28,596 --> 00:30:30,864
♪ ♪

693
00:30:30,898 --> 00:30:33,033
CAROLINE:
<i>Ich muss es nur zuerst finden.</i>

694
00:30:33,067 --> 00:30:35,169
(fötaler Herzschlag pulsiert)

695
00:30:35,202 --> 00:30:38,205
Wir müssen gehen
zum Arzt, aber...

696
00:30:38,238 --> 00:30:41,475
Ach! Ich wusste es!
Ich wusste es! Ich wusste es!

697
00:30:41,509 --> 00:30:44,278
<i>-Wann haben Sie es erfahren?</i>
-CAROLINE: <i>Letzte Nacht.</i>

698
00:30:44,311 --> 00:30:46,480
-Oh, mein Gott!
-Mama, ich weiß es nicht.

699
00:30:46,514 --> 00:30:47,915
RUTHIE:
<i>Das kann ich dir nicht sagen</i>

700
00:30:47,948 --> 00:30:49,483
-wie glücklich ich bin!
-CAROLINE: Nein, im Ernst.

701
00:30:49,517 --> 00:30:52,119
Nun, ich habe einen Schwangerschaftstest gemacht
letzte Nacht, und ich bin schwanger.

702
00:30:52,152 --> 00:30:53,621
FRAU:
Oh, mein Gott!

703
00:30:53,655 --> 00:30:55,422
Oh mein Gott, Leute!

704
00:30:55,456 --> 00:30:57,559
KRANKENSCHWESTER: <i>Ich wollte es nur bestätigen</i>
<i>Ihr voraussichtliches Fälligkeitsdatum</i>

705
00:30:57,592 --> 00:31:00,494
<i>-das ist der 21. Januar.</i>
-(lacht): Oh mein Gott.

706
00:31:00,528 --> 00:31:03,097
<i>Ich kann nicht glauben, wie glücklich ich bin.</i>

707
00:31:03,130 --> 00:31:04,365
(fötaler Herzschlag pulsiert)

708
00:31:04,398 --> 00:31:06,033
CAROLINE:
Er sieht schon wirklich süß aus.

709
00:31:06,066 --> 00:31:07,434
DANIEL: Du denkst
Er sieht schon süß aus?

710
00:31:07,468 --> 00:31:09,269
CAROLINE: Ja.
Schau dir dieses kleine süße Gesicht an.

711
00:31:11,138 --> 00:31:13,307
(Fötaler Herzschlag lässt nach)

712
00:31:14,141 --> 00:31:16,076
DANIEL:
<i>Ich habe dieses Baby auf dem Weg.</i>

713
00:31:16,110 --> 00:31:17,244
TRISTAN HARRIS:
<i>Richtig.</i>

714
00:31:17,277 --> 00:31:19,380
DANIEL:
Also übergebe ich es dir.

715
00:31:19,413 --> 00:31:21,516
Sind wir dem Untergang geweiht?

716
00:31:21,549 --> 00:31:24,519
Werden wir uns alle stellen?
dieser Techno-Dystopiker

717
00:31:24,552 --> 00:31:26,487
Zukunft des Untergangs?

718
00:31:29,423 --> 00:31:31,392
Es ist, äh...

719
00:31:31,425 --> 00:31:33,127
(lacht):
Es sind keine guten Nachrichten,

720
00:31:33,160 --> 00:31:34,895
die Welt
auf die wir uns einlassen.

721
00:31:35,530 --> 00:31:37,398
Ich--zum Beispiel--
Ich meine, ich bin einfach ehrlich.

722
00:31:37,431 --> 00:31:39,933
Äh, ich kenne Leute
die sich mit KI-Risiken befassen

723
00:31:39,967 --> 00:31:43,103
die ihre Kinder nicht erwarten
um es auf die Highschool zu schaffen.

724
00:31:43,705 --> 00:31:46,106
♪ ♪

725
00:31:52,647 --> 00:31:54,181
(Lichter klirren)

726
00:31:58,385 --> 00:32:02,089
DANIEL: Das ist, wie...
das ist wirklich beängstigend

727
00:32:02,122 --> 00:32:03,424
Weil es so ist,
Oh, das sind wir alle (Piep).

728
00:32:03,457 --> 00:32:05,325
CAROLINE:
Du musst mich beruhigen,

729
00:32:05,359 --> 00:32:07,261
denn das macht mich fertig
unglaublich ängstlich

730
00:32:07,294 --> 00:32:08,996
und ich trage das Baby
gerade jetzt,

731
00:32:09,029 --> 00:32:11,999
also musst du auch ruhig sein
für mich und stark und hoffnungsvoll,

732
00:32:12,032 --> 00:32:17,037
weil ich-- es ist auch, es ist
zu viel für meine Seele

733
00:32:17,070 --> 00:32:19,574
während ich dieses Baby trage.

734
00:32:19,607 --> 00:32:21,709
Also musst du es versuchen
herauszufinden

735
00:32:21,743 --> 00:32:23,578
ein Weg, Hoffnung zu haben.

736
00:32:24,311 --> 00:32:28,449
Es ist wirklich wichtig,
Daniel, besonders jetzt.

737
00:32:29,450 --> 00:32:31,118
H-Wie man Hoffnung hat.

738
00:32:31,151 --> 00:32:33,987
Du musst.
Du musst es für mich finden.

739
00:32:34,021 --> 00:32:35,523
Ich meine es ernst.

740
00:32:35,557 --> 00:32:37,357
Ich werde es tun.

741
00:32:38,325 --> 00:32:41,195
Ich werde. Ich werde es versuchen.

742
00:32:47,034 --> 00:32:48,368
(Lichter klirren)

743
00:32:50,204 --> 00:32:52,072
DANIEL:
Hey, Leute?

744
00:32:52,105 --> 00:32:53,508
Jungs.

745
00:32:54,809 --> 00:32:57,144
Können wir wieder loslegen?

746
00:32:59,046 --> 00:33:01,982
Oy gevalt! (seufzt)

747
00:33:04,418 --> 00:33:05,787
TED:
Äh, Dan, bist du bereit?

748
00:33:05,820 --> 00:33:07,387
PETER DIAMANDIS:
Hallo, Daniel.

749
00:33:08,088 --> 00:33:10,090
DANIEL:
Hey, wie geht es dir?

750
00:33:10,123 --> 00:33:11,425
DIAMANDIS:
Mir geht es... mir geht es gut.

751
00:33:11,458 --> 00:33:14,562
Ich denke, äh... ich denke
Ich brauche etwas Hilfe, Peter.

752
00:33:15,362 --> 00:33:18,165
Ähm, ich habe gearbeitet
an diesem Film seit ca.

753
00:33:18,198 --> 00:33:20,300
Ich werde sagen,
jetzt acht bis zehn Monate.

754
00:33:20,334 --> 00:33:23,771
Es war sehr,
manchmal deprimierend.

755
00:33:23,805 --> 00:33:26,173
-Hmm.
-Ich habe mich sehr entfremdet gefühlt

756
00:33:26,206 --> 00:33:28,242
-mak-machen diesen Film.
-Von wem?

757
00:33:28,275 --> 00:33:30,444
Durch all dies, die--
all diese Jungs

758
00:33:30,477 --> 00:33:33,748
die herumsitzen und es mir erzählen
dass die Welt untergehen wird.

759
00:33:33,781 --> 00:33:35,249
-Ah.
-Das, wie,

760
00:33:35,282 --> 00:33:37,150
y-du weißt schon, d-das
Doom-Bullshit, weißt du?

761
00:33:37,184 --> 00:33:38,452
Ich weiß es gut.

762
00:33:38,485 --> 00:33:40,053
„Wir sind alle dem Untergang geweiht.
Jeder wird sterben.

763
00:33:40,087 --> 00:33:41,388
Alles ist schrecklich.

764
00:33:41,421 --> 00:33:43,691
Eindrucksvoll. Äh, lass mich
Bring dir etwas Licht.

765
00:33:43,725 --> 00:33:45,259
Bitte.

766
00:33:45,292 --> 00:33:49,096
Wir leben wirklich
in einer außergewöhnlichen Zeit.

767
00:33:49,864 --> 00:33:51,633
Und viele Leute vergessen das.

768
00:33:51,666 --> 00:33:53,835
Alles um uns herum ist
ein Produkt der Intelligenz,

769
00:33:53,868 --> 00:33:57,437
und so alles, was wir berühren
mit diesen neuen Tools ist wahrscheinlich

770
00:33:57,471 --> 00:34:00,207
weitaus mehr Wert zu erzeugen
als wir jemals zuvor gesehen haben.

771
00:34:00,240 --> 00:34:03,310
KI kann uns beim Entdecken helfen
neue Materialien.

772
00:34:03,343 --> 00:34:05,412
KI kann Sozialwissenschaftlern helfen

773
00:34:05,445 --> 00:34:07,649
zu verstehen
wie Wirtschaft funktioniert.

774
00:34:07,682 --> 00:34:12,219
Es gibt eine Menge, was KI tun könnte
um das Leben und Arbeiten besser zu machen.

775
00:34:12,252 --> 00:34:14,522
Ich fühle mich heute stärker,

776
00:34:14,556 --> 00:34:16,624
selbstbewusster
heute etwas lernen.

777
00:34:16,658 --> 00:34:19,459
Wir werden zu Übermenschen
weil wir Super-KIs haben.

778
00:34:19,493 --> 00:34:22,296
Das ist erst der Anfang
einer Explosion.

779
00:34:22,329 --> 00:34:25,098
Menschen und KI arbeiten zusammen

780
00:34:25,132 --> 00:34:27,100
zu lösen
wirklich wichtige Probleme.

781
00:34:27,134 --> 00:34:30,137
Es ist hier, um uns zu befreien
von Routinearbeiten,

782
00:34:30,170 --> 00:34:34,308
und es ist hier, um uns daran zu erinnern
was uns menschlich macht.

783
00:34:34,341 --> 00:34:36,310
Ich denke, das ist so

784
00:34:36,343 --> 00:34:38,846
die außergewöhnlichste Zeit
am Leben sein.

785
00:34:38,880 --> 00:34:42,449
Das einzige Mal, das aufregender ist
als heute ist morgen.

786
00:34:42,482 --> 00:34:45,787
Äh, das denke ich
Heute geborene Kinder,

787
00:34:45,820 --> 00:34:47,622
Sie sind dabei, einzutreten

788
00:34:47,655 --> 00:34:51,325
eine glorreiche Zeit
der menschlichen Transformation.

789
00:34:51,358 --> 00:34:52,794
Werden wir Herausforderungen haben?
Natürlich.

790
00:34:52,827 --> 00:34:55,597
Können wir diese Herausforderungen lösen?
Das machen wir jedes Mal.

791
00:34:55,630 --> 00:34:58,265
Wir sind hier,
Das ist wunderbar.

792
00:34:58,298 --> 00:35:00,602
-Ich liebe dich schon.
-(lacht): Okay.

793
00:35:00,635 --> 00:35:02,402
-Super dankbar
Dich hier zu haben. -(Applaus)

794
00:35:02,436 --> 00:35:03,905
-Super begeistert, hier zu sein.
-Ja.

795
00:35:03,938 --> 00:35:05,372
Das Wort gehört also Ihnen, Sir.

796
00:35:05,405 --> 00:35:07,875
Vielen Dank.
Ich freue mich sehr, hier zu sein.

797
00:35:07,909 --> 00:35:11,211
GUILLAUME VERDON:
<i>Yo, yo. Alles klar.</i>

798
00:35:11,244 --> 00:35:12,814
<i>Die Zukunft wird großartig.</i>

799
00:35:12,847 --> 00:35:14,649
Ich meine, seit ich ein Kind war,

800
00:35:14,682 --> 00:35:17,652
Ich wollte es verstehen
das Universum, in dem wir leben,

801
00:35:17,685 --> 00:35:20,722
um es herauszufinden
wie man die Technologien erstellt

802
00:35:20,755 --> 00:35:24,458
die uns helfen, den Umfang zu vergrößern
und Ausmaß der Zivilisation.

803
00:35:24,491 --> 00:35:27,260
Ich habe das Gefühl
Wenn jeder diese Einstellung hätte,

804
00:35:27,294 --> 00:35:29,764
dann würden wir tatsächlich leben
in einer besseren Welt, oder?

805
00:35:29,797 --> 00:35:31,365
Das glaube ich.

806
00:35:33,333 --> 00:35:35,268
-DANIEL: Hallo, Pete. Wie geht es dir?
-(kichert)

807
00:35:35,302 --> 00:35:37,170
PETER LEE:
<i>Ich habe viel darüber nachgedacht</i>

808
00:35:37,204 --> 00:35:39,674
was ich Angst nennen würde,
KI-Angst.

809
00:35:39,707 --> 00:35:41,274
Ich fühle es.

810
00:35:41,308 --> 00:35:43,811
Ich habe mich nicht getroffen
jeder nachdenkliche Mensch

811
00:35:43,845 --> 00:35:45,546
wer spürt es nicht.

812
00:35:45,580 --> 00:35:48,650
Und jeder, der sagt, dass er es nicht tut
Es zu spüren, ist eine Lüge.

813
00:35:48,683 --> 00:35:50,518
Aber, wissen Sie, im Großen und Ganzen
und der Grund

814
00:35:50,551 --> 00:35:53,921
dass ich persönlich optimistisch bin
darüber, äh, ist das

815
00:35:53,955 --> 00:35:57,190
ein großer Teil der Weltbevölkerung
intelligentesten Menschen

816
00:35:57,224 --> 00:35:58,726
denken sehr intensiv nach

817
00:35:58,760 --> 00:36:02,530
über das Potenzial nachgelagert
Schäden und Risiken von KI.

818
00:36:02,563 --> 00:36:05,900
Wir haben diese Art von Vision
der Sicherheit ist, äh,

819
00:36:05,933 --> 00:36:08,536
irgendwie im Mittelpunkt
der Forschung, die wir betreiben.

820
00:36:08,569 --> 00:36:09,937
DANIELA AMODEI:
<i>Nein, das ist völlig in Ordnung.</i>

821
00:36:09,971 --> 00:36:11,371
(undeutliches Geplapper)

822
00:36:11,405 --> 00:36:13,808
<i>Ich denke, es gibt noch mehr</i>

823
00:36:13,841 --> 00:36:17,945
potenzielle Vorteile als
Es gibt potenzielle Nachteile,

824
00:36:17,979 --> 00:36:19,814
und ich denke, es ist eine Pflicht

825
00:36:19,847 --> 00:36:22,382
die Leute, die es sind
die Schaffung dieser Technologie

826
00:36:22,416 --> 00:36:24,986
um sicherzustellen, dass wir es tun
der beste Job, den wir machen können

827
00:36:25,019 --> 00:36:26,386
um es für die Menschen sicher zu machen.

828
00:36:26,420 --> 00:36:27,755
FRAU:
Reid Hoffman.

829
00:36:27,789 --> 00:36:29,456
REID HOFFMAN:
<i>Was ich Ihnen garantieren kann</i>

830
00:36:29,489 --> 00:36:30,825
<i>-einige schlimme Dinge werden passieren.</i>
-Nimm eins.

831
00:36:30,858 --> 00:36:33,293
Was wir versuchen werden
ist, diese schlechten Dinge zu machen

832
00:36:33,326 --> 00:36:36,564
so wenig und nicht riesig wie möglich,

833
00:36:36,597 --> 00:36:38,733
und dann werden wir iterieren
haben--

834
00:36:38,766 --> 00:36:41,268
an einem viel besseren Ort sein
mit der Gesellschaft.

835
00:36:41,301 --> 00:36:44,304
-Hallo.
-SHAW WALTERS: Hallo.

836
00:36:44,337 --> 00:36:45,640
DANIEL:
Wie geht es dir, Mond?

837
00:36:45,673 --> 00:36:49,677
Ich habe das Gefühl, dass wir am Ende sind
ein Kapitel der Menschheit

838
00:36:49,711 --> 00:36:50,678
und ein neues beginnen,

839
00:36:50,712 --> 00:36:53,648
und es ist sehr interessant
Zeit, am Leben zu sein.

840
00:36:53,681 --> 00:36:54,949
Und wenn ich geboren werden könnte
gerade jetzt,

841
00:36:54,982 --> 00:36:56,416
Das würde ich auf jeden Fall wollen.

842
00:36:56,450 --> 00:36:57,985
Das wäre so aufregend.

843
00:36:58,019 --> 00:37:00,688
Ich bin sehr aufgeregt. (lacht)

844
00:37:00,722 --> 00:37:02,990
Was, was für eine Zukunft.
Erregt es Sie? Erregt es Sie?

845
00:37:03,024 --> 00:37:04,357
Nein.

846
00:37:04,391 --> 00:37:06,828
-(lacht)
-Nein, nicht wirklich.

847
00:37:06,861 --> 00:37:08,696
DANIEL: Viele dieser Leute
Ich habe mir das gesagt, weißt du,

848
00:37:08,730 --> 00:37:10,798
Mein Kind wird es nicht schaffen
zum Gymnasium.

849
00:37:10,832 --> 00:37:13,868
Warum liegen sie falsch?
Bitte erklären Sie es mir.

850
00:37:13,901 --> 00:37:15,536
Nur weil du--

851
00:37:15,570 --> 00:37:19,040
Es fällt Ihnen schwer, Vorhersagen zu treffen
die Zukunft im eigenen Kopf

852
00:37:19,073 --> 00:37:23,511
Das heißt nicht, dass es so ist
Es wird auf jeden Fall furchtbar gehen.

853
00:37:23,544 --> 00:37:27,048
Tatsächlich gibt es das
eine sehr hohe Wahrscheinlichkeit

854
00:37:27,081 --> 00:37:28,883
und der historische Präzedenzfall
ist das

855
00:37:28,916 --> 00:37:30,585
Die Dinge werden massiv besser.

856
00:37:30,618 --> 00:37:34,789
Der Begriff, den ich verwende, ist
„datengesteuerter Optimismus.“

857
00:37:34,822 --> 00:37:39,292
Es gibt ein solides Fundament
damit du optimistisch bist.

858
00:37:39,326 --> 00:37:42,530
Schau dir was an
das letzte Jahrhundert war

859
00:37:42,563 --> 00:37:44,599
um zu sehen, wohin wir gehen.

860
00:37:44,632 --> 00:37:46,299
<i>In den letzten hundert Jahren</i>

861
00:37:46,333 --> 00:37:48,970
<i>die durchschnittliche menschliche Lebenserwartung</i>
<i>hat sich mehr als verdoppelt.</i>

862
00:37:49,003 --> 00:37:51,706
<i>Durchschnittliches Pro-Kopf-Einkommen</i>
<i>inflationsbereinigt</i>

863
00:37:51,739 --> 00:37:53,908
<i>Weltweit hat sich die Zahl verdreifacht.</i>

864
00:37:53,941 --> 00:37:57,545
<i>Kindersterblichkeit hat zugenommen</i>
<i>Um den Faktor zehn reduzieren.</i>

865
00:37:57,578 --> 00:37:59,981
Die Welt ist besser geworden
bei fast jeder Maßnahme

866
00:38:00,014 --> 00:38:03,551
um Größenordnungen
wegen der Technik.

867
00:38:03,584 --> 00:38:05,620
In fast jeder Hinsicht.

868
00:38:05,653 --> 00:38:09,991
Weniger Gewalt, mehr Bildung,
Zugang zu Energie, Nahrung, Wasser.

869
00:38:10,024 --> 00:38:13,528
All diese Dinge sind passiert
Aus einem Grund.

870
00:38:13,561 --> 00:38:15,730
Es war Technologie

871
00:38:15,763 --> 00:38:17,899
das ist zur Knappheit geworden
in die Fülle,

872
00:38:17,932 --> 00:38:20,034
aber es wird auch gefahren
zu einer Fülle

873
00:38:20,067 --> 00:38:22,069
einiger Negativität, oder?

874
00:38:22,103 --> 00:38:26,373
Überfluss an Fettleibigkeit,
Fülle an psychischen Störungen,

875
00:38:26,406 --> 00:38:29,977
Fülle des Klimawandels,
und so weiter.

876
00:38:30,011 --> 00:38:31,712
Und ja, das stimmt.

877
00:38:31,746 --> 00:38:34,582
Aber wahrscheinlich werden wir es sein
besser gerüstet, um es zu lösen

878
00:38:34,615 --> 00:38:36,684
Verwendung anderer Technologien,
wie KI,

879
00:38:36,717 --> 00:38:39,687
als wir, sagen wir mal, aufhören werden
und alles ausschalten.

880
00:38:39,720 --> 00:38:41,823
Es könnte sein
ein gewisses existenzielles Risiko,

881
00:38:41,856 --> 00:38:45,927
aber KI ist auch das Richtige
das die Pandemien lösen kann,

882
00:38:45,960 --> 00:38:47,829
kann uns beim Klimawandel helfen,

883
00:38:47,862 --> 00:38:50,898
kann bei der Identifizierung helfen
Dieser Asteroid da draußen

884
00:38:50,932 --> 00:38:53,067
bevor wir es gesehen haben
als potenzielles Risiko

885
00:38:53,100 --> 00:38:54,735
und helfen Sie, es zu mildern.

886
00:38:54,769 --> 00:38:58,438
Das wird wirklich so sein
das Werkzeug, das uns bei der Bewältigung hilft

887
00:38:58,471 --> 00:39:01,843
all die Herausforderungen, denen wir gegenüberstehen
als Spezies gegenüberstehen, oder?

888
00:39:01,876 --> 00:39:04,712
Wir müssen etwas reparieren
Wasserentsalzung.

889
00:39:04,745 --> 00:39:06,547
<i>Wir müssen Nahrungsmittel anbauen</i>

890
00:39:06,581 --> 00:39:08,816
<i>100-mal günstiger als</i>
<i>Das tun wir derzeit.</i>

891
00:39:08,850 --> 00:39:12,787
<i>Wir brauchen erneuerbare Energien,</i>
<i>Sie wissen schon, allgegenwärtig</i>

892
00:39:12,820 --> 00:39:14,589
<i>und überall in unserem Leben.</i>

893
00:39:14,622 --> 00:39:17,625
<i>Wohin man auch schaut,</i>
<i>in den nächsten 50 Jahren</i>

894
00:39:17,658 --> 00:39:19,727
<i>Wir müssen mit weniger mehr erreichen.</i>

895
00:39:19,760 --> 00:39:23,664
Trainingsmaschinen, die uns helfen
ist absolut notwendig.

896
00:39:23,698 --> 00:39:25,432
Wissenschaftler verwenden
Künstliche Intelligenz

897
00:39:25,465 --> 00:39:26,534
<i>zur Kohlenstoffabscheidung.</i>

898
00:39:26,567 --> 00:39:27,935
<i>Es ist eine entscheidende Technologie.</i>

899
00:39:27,969 --> 00:39:29,904
DIAMANDIS: <i>Die Werkzeuge</i>
<i>um diese Probleme zu lösen</i>

900
00:39:29,937 --> 00:39:32,874
<i>wie Fusion</i>
<i>Das ist nicht mehr theoretisch,</i>

901
00:39:32,907 --> 00:39:34,041
es kommt.

902
00:39:34,075 --> 00:39:38,012
Wir stehen am Abgrund
außergewöhnlicher Technologien.

903
00:39:38,045 --> 00:39:40,548
AMNA NAWAZ: <i>Diesjährige</i>
<i>Nobelpreis für Chemie</i>

904
00:39:40,581 --> 00:39:43,450
ging an drei Wissenschaftler
für ihre bahnbrechende Arbeit

905
00:39:43,483 --> 00:39:44,886
<i>mit künstlicher Intelligenz</i>

906
00:39:44,919 --> 00:39:47,755
<i>um die Biomedizin voranzutreiben</i>
<i>und Proteinforschung.</i>

907
00:39:47,788 --> 00:39:49,991
DEMIS HASSABIS:
<i>Proteinfaltung ist</i>

908
00:39:50,024 --> 00:39:53,928
<i>einer dieser heiligen Grale</i>
<i>Typprobleme in der Biologie.</i>

909
00:39:53,961 --> 00:39:56,030
<i>Das haben die Leute vorhergesagt</i>
<i>seit den 70er Jahren</i>

910
00:39:56,063 --> 00:39:58,633
<i>dass dies möglich sein sollte</i>
<i>aber bis jetzt,</i>

911
00:39:58,666 --> 00:39:59,934
<i>Niemand hat es geschafft.</i>

912
00:39:59,967 --> 00:40:01,669
Und das wird auch so sein
wirklich wichtig für Dinge

913
00:40:01,702 --> 00:40:03,938
wie die Entdeckung von Medikamenten
und Krankheiten verstehen.

914
00:40:03,971 --> 00:40:06,908
<i>Ich denke, wir könnten, wissen Sie,</i>
<i>die meisten Krankheiten heilen</i>

915
00:40:06,941 --> 00:40:11,545
innerhalb der nächsten ein oder zwei Jahrzehnte
wenn, äh, das KI-Medikamentendesign funktioniert.

916
00:40:12,213 --> 00:40:16,150
Der technische Fortschritt ermöglicht
mehr Menschenleben, oder?

917
00:40:16,183 --> 00:40:18,986
Ich meine, wenn wir beschleunigen,

918
00:40:19,020 --> 00:40:22,189
die Anzahl der Menschen, die wir können
Die Unterstützung wächst exponentiell.

919
00:40:22,223 --> 00:40:24,625
Wenn wir langsamer werden, erreicht es ein Plateau.

920
00:40:24,659 --> 00:40:28,062
Diese Lücke ist effektiv
zukünftige Menschen

921
00:40:28,095 --> 00:40:30,965
diese Verzögerung hat
effektiv getötet.

922
00:40:31,632 --> 00:40:34,702
DANIEL: Millionen von Leben
das wird es nicht geben.

923
00:40:34,735 --> 00:40:35,670
Milliarden.

924
00:40:35,703 --> 00:40:37,238
Oder Dutzende Milliarden.

925
00:40:37,271 --> 00:40:38,839
Weißt du, jemand sagte:
„Oh mein Gott,

926
00:40:38,873 --> 00:40:41,175
Können wir damit überleben?
digitale Superintelligenz?“

927
00:40:41,208 --> 00:40:42,777
Und meine Frage ist:

928
00:40:42,810 --> 00:40:44,679
Können wir ohne überleben?
digitale Superintelligenz?

929
00:40:44,712 --> 00:40:47,949
Wir nutzen also KI
als Assistent von Anbietern.

930
00:40:47,982 --> 00:40:50,851
Dies ist im Allgemeinen ein Trend
Wir können es bereits sehen.

931
00:40:50,885 --> 00:40:52,820
BERTHA COOMBS: <i>...spannen</i>
<i>generative KI-Programme</i>

932
00:40:52,853 --> 00:40:54,622
<i>um Ärzten und Krankenschwestern zu helfen...</i>

933
00:40:54,655 --> 00:40:56,624
Wir haben immer Probleme.

934
00:40:56,657 --> 00:40:59,660
Und diese Probleme sind Nahrung
für Unternehmer

935
00:40:59,694 --> 00:41:01,529
neues Geschäft zu schaffen
und neue Branchen.

936
00:41:01,562 --> 00:41:03,631
SHANELLE KAUL: <i>...mit der Hilfe</i>
<i>von künstlicher Intelligenz</i>

937
00:41:03,664 --> 00:41:05,132
<i>Landwirte bekommen</i>
<i>die Hilfe, die sie brauchen</i>

938
00:41:05,166 --> 00:41:06,901
<i>aufführen</i>
<i>arbeitsintensive Aufgaben...</i>

939
00:41:06,934 --> 00:41:10,504
Mit Hilfe von Ulangizi AI,
Die Bauern sind jetzt dazu in der Lage

940
00:41:10,538 --> 00:41:13,207
<i>um die passenden Kulturen zu erfragen</i>
<i>dass sie pflanzen können.</i>

941
00:41:13,240 --> 00:41:15,576
WILL REEVE: <i>...KI wird verwendet</i>
<i>als Gedankendecoder</i>

942
00:41:15,609 --> 00:41:17,845
<i>und dieses Signal senden</i>
<i>bis zur Wirbelsäule.</i>

943
00:41:17,878 --> 00:41:21,148
KI wird am meisten werden
außergewöhnliches Werkzeug von allen.

944
00:41:21,816 --> 00:41:24,752
Wir als breitere Gesellschaft
muss darüber nachdenken

945
00:41:24,785 --> 00:41:27,655
wie wollen wir nutzen
diese Technologie, oder?

946
00:41:27,688 --> 00:41:29,123
Wir, die Menschen.

947
00:41:29,156 --> 00:41:31,859
Was soll es für uns tun?

948
00:41:31,892 --> 00:41:34,128
♪ ♪

949
00:41:34,762 --> 00:41:36,731
DANIEL: <i>Ich denke darüber nach</i>
<i>durch die Perspektive</i>

950
00:41:36,764 --> 00:41:38,532
<i>und Objektiv von, wie,</i>
<i>mein Sohn wird erwachsen</i>

951
00:41:38,566 --> 00:41:39,934
<i>in der Welt mit all dem.</i>

952
00:41:39,967 --> 00:41:42,770
Was bedeutet die beste Version?
Wie sieht sein Leben aus?

953
00:41:42,803 --> 00:41:45,139
Wenn alles klappt.

954
00:41:45,172 --> 00:41:47,108
(seufzt schwer)

955
00:41:47,141 --> 00:41:50,745
WALTERS: <i>Der Ort, wo Kinder</i>
<i>werden es wahrscheinlich sehen</i>

956
00:41:50,778 --> 00:41:53,014
<i>die größte Wirkung</i>
<i>sofort auf ihr Leben</i>

957
00:41:53,047 --> 00:41:54,882
<i>-wird wahrscheinlich zur Schule gehen.</i>
-(Kinder plappern)

958
00:41:54,915 --> 00:41:57,218
<i>Ich denke, dass die Natur</i>
<i>was Schule ist</i>

959
00:41:57,251 --> 00:41:59,086
<i>wird sich grundlegend ändern.</i>

960
00:41:59,120 --> 00:42:00,888
(Kind kichert)

961
00:42:00,921 --> 00:42:03,057
DIAMANDIS:
<i>Ich sehe diese erstaunliche Welt</i>

962
00:42:03,090 --> 00:42:06,894
<i>wo jedes Kind Zugriff hat</i>
<i>zu schlechter Bildung</i>

963
00:42:06,927 --> 00:42:09,296
aber ganz kurz, die
beste Bildung auf dem Planeten.

964
00:42:09,330 --> 00:42:14,735
HOFFMAN: <i>Tutoren, jedes Fach</i>
<i>unendlich geduldig.</i>

965
00:42:18,639 --> 00:42:20,641
DIAMANDIS:
<i>Stellen Sie sich eine Zukunft vor</i>

966
00:42:20,674 --> 00:42:22,777
wo die ärmsten Menschen sind
auf dem Planeten

967
00:42:22,810 --> 00:42:26,113
Zugriff darauf haben
die beste Gesundheitsversorgung.

968
00:42:26,147 --> 00:42:30,151
<i>Keine gute Gesundheitsversorgung, die beste</i>
<i>Gesundheitsversorgung, bereitgestellt durch KIs.</i>

969
00:42:31,719 --> 00:42:33,687
(elektronisches Trillern)

970
00:42:34,622 --> 00:42:38,959
<i>Wir werden in der Lage sein, zu verlängern</i>
<i>unsere Gesundheitsspanne</i>

971
00:42:38,993 --> 00:42:42,930
<i>nicht nur unsere Lebensspanne</i>
<i>unsere Gesundheitsspanne um Jahrzehnte.</i>

972
00:42:44,899 --> 00:42:46,767
HOFFMANN:
<i>Du bekommst gerade ein Kind.</i>

973
00:42:46,801 --> 00:42:50,071
<i>Oh, das Kind, so,</i>
<i>Unkontrollierbares Aufstoßen.</i>

974
00:42:50,104 --> 00:42:52,673
<i>Ist das etwas</i>?
<i>Ich sollte mir Sorgen machen?</i>

975
00:42:52,706 --> 00:42:54,608
Rund um die Uhr für Sie da.

976
00:42:54,642 --> 00:42:57,745
Und wohin wir gehen--
und es mag manchen Angst machen –

977
00:42:57,778 --> 00:42:59,780
ist, dass wir fusionieren werden
mit KI.

978
00:42:59,814 --> 00:43:02,049
Wir werden fusionieren
mit Technik.

979
00:43:03,250 --> 00:43:06,353
<i>Anfang bis Mitte der 2030er Jahre</i>

980
00:43:06,387 --> 00:43:10,925
<i>erwarten, dass wir dazu in der Lage sind</i>
<i>Verbinden Sie unser Gehirn mit der Cloud</i>

981
00:43:10,958 --> 00:43:14,662
<i>wo ich anfangen kann</i>
<i>um den Zugriff auf den Speicher zu erweitern.</i>

982
00:43:16,697 --> 00:43:18,866
(elektronisches Trillern)

983
00:43:19,934 --> 00:43:22,703
DANIEL: Okay, das ist großartig.
Was ist eine weitere coole KI-Sache?

984
00:43:22,736 --> 00:43:24,105
Er muss doch nicht arbeiten, oder?

985
00:43:24,138 --> 00:43:25,739
-Wenn er erwachsen wird,
er hätte vielleicht nicht... -(seufzt)

986
00:43:25,773 --> 00:43:26,774
-...er wird keinen Job haben müssen.
-Ich meine...

987
00:43:26,807 --> 00:43:28,142
Er muss keinen Job haben,

988
00:43:28,175 --> 00:43:31,045
aber er könnte es wirklich getan haben
eine starke Leidenschaft,

989
00:43:31,078 --> 00:43:33,714
und er muss
Denken Sie wirklich darüber nach,

990
00:43:33,747 --> 00:43:36,717
„Okay, ich bin hier.
Ich kann alles aus meinem Leben machen.

991
00:43:36,750 --> 00:43:38,752
Was soll ich also tun?

992
00:43:46,227 --> 00:43:50,364
DANIEL: Damit mein Sohn...
kann einfach ein Dichter sein.

993
00:43:50,397 --> 00:43:52,166
-Ja.
-Und ein Maler.

994
00:43:52,199 --> 00:43:53,667
Absolut.

995
00:43:53,701 --> 00:43:55,169
DANIEL:
<i>Damit mein Sohn sein Leben leben kann</i>

996
00:43:55,202 --> 00:43:58,105
<i>auf einer griechischen, sonnenverwöhnten Insel</i>
<i>Den ganzen Tag malen.</i>

997
00:44:07,448 --> 00:44:09,150
VERDON:
<i>Ich meine, wenn alles klappt</i>

998
00:44:09,183 --> 00:44:12,853
Wir haben billig, äh,
reichlich Energie.

999
00:44:13,854 --> 00:44:17,791
<i>Wir haben die vollständige Kontrolle</i>
<i>Das Klima unseres Planeten.</i>

1000
00:44:17,825 --> 00:44:20,361
<i>Wir nutzen Energie</i>
<i>von der Sonne.</i>

1001
00:44:20,394 --> 00:44:24,899
<i>Wir sind multiplanetarisch geworden</i>
<i>so werden wir sehr robust.</i>

1002
00:44:24,932 --> 00:44:27,268
<i>Wir nutzen Mineralien</i>
<i>und Ressourcen</i>

1003
00:44:27,301 --> 00:44:28,903
<i>aus dem Sonnensystem.</i>

1004
00:44:28,936 --> 00:44:31,805
DANIEL: <i>Also mein...</i>
<i>Mein Junge könnte ins All fliegen.</i>

1005
00:44:31,839 --> 00:44:33,240
VERDON:
<i>Sicher.</i>

1006
00:44:33,274 --> 00:44:35,142
-DANIEL: <i>Er könnte zum Mars fliegen.</i>
-VERDON: <i>Ja.</i>

1007
00:44:35,176 --> 00:44:36,911
DANIEL:
<i>Es ist mir jetzt so glasklar.</i>

1008
00:44:36,944 --> 00:44:39,780
Mein Sohn könnte erwachsen werden
in einer Welt ohne Krankheiten.

1009
00:44:39,813 --> 00:44:41,048
-VERDON: Ja.
-Ohne Krankheit.

1010
00:44:41,081 --> 00:44:42,416
-Sicher.
-Ohne Armut.

1011
00:44:42,449 --> 00:44:44,285
-Ja.
-Wir sind dabei, einzutreten

1012
00:44:44,318 --> 00:44:46,253
eine Welt nach der Knappheit.

1013
00:44:46,887 --> 00:44:50,958
<i>Genau wie sich der Lungenfisch bewegt hat</i>
<i>aus den Ozeanen an Land</i>

1014
00:44:50,991 --> 00:44:53,327
<i>Hunderte Millionen</i>
<i>vor Jahren</i>

1015
00:44:53,360 --> 00:44:58,465
<i>wir sind dabei, loszufahren</i>
<i>die Erde, in den Kosmos,</i>

1016
00:44:58,499 --> 00:45:00,201
<i>auf kollaborative Weise</i>

1017
00:45:00,234 --> 00:45:04,705
<i>Dinge tun, die sind</i>
<i>für uns heute nicht vorstellbar.</i>

1018
00:45:06,473 --> 00:45:09,810
<i>Das ist möglich mit</i>
<i>diese exponentiellen Technologien</i>

1019
00:45:09,843 --> 00:45:11,712
<i>und diese KIs.</i>

1020
00:45:12,379 --> 00:45:14,448
<i>Lassen Sie uns diese Tools verwenden</i>

1021
00:45:14,481 --> 00:45:16,750
<i>um dieses Zeitalter des Überflusses zu schaffen.</i>

1022
00:45:16,784 --> 00:45:18,986
(elektronisches Klicken)

1023
00:45:21,188 --> 00:45:22,691
<i>Wir brauchen Weisheit.</i>

1024
00:45:23,324 --> 00:45:26,493
Äh, das denke ich
digitale Superintelligenz

1025
00:45:26,528 --> 00:45:29,129
wird letztendlich werden
der weiseste,

1026
00:45:29,163 --> 00:45:34,835
Sie wissen schon, die Dorfältesten
für die Menschheit.

1027
00:45:34,868 --> 00:45:38,506
Was ist, wenn die KI es versucht?
Menschen zu machen

1028
00:45:38,540 --> 00:45:40,341
die besten Versionen ihrer selbst?

1029
00:45:40,374 --> 00:45:41,909
Was ist, wenn es expandiert?

1030
00:45:41,942 --> 00:45:43,944
was menschlich möglich ist
was wir tun sollen?

1031
00:45:43,978 --> 00:45:47,114
Wie können wir diese Technologie nutzen?

1032
00:45:47,147 --> 00:45:50,451
um zu helfen, das herauszubringen
bessere Engel unserer Natur?

1033
00:45:50,484 --> 00:45:52,119
Es ist ganz einfach,

1034
00:45:52,152 --> 00:45:54,922
wenn wir auf neue Dinge stoßen
das kann sehr fremd sein,

1035
00:45:54,955 --> 00:45:56,457
zuerst Angst haben.

1036
00:45:56,490 --> 00:45:57,992
Angst ist eine wichtige Sache

1037
00:45:58,025 --> 00:46:00,894
für die Navigation
potenziell schlechte Dinge.

1038
00:46:00,928 --> 00:46:04,131
Aber wir machen nur Fortschritte
wenn wir Hoffnung haben.

1039
00:46:04,164 --> 00:46:06,166
-(Hund bellt)
-(undeutliches Geplapper)

1040
00:46:06,200 --> 00:46:08,269
DANIEL:
Pssst. Moose, hör auf damit.

1041
00:46:08,302 --> 00:46:11,205
HOFFMAN: <i>Ich habe eine Menge</i>
<i>der Hoffnung auf die Menschheit.</i>

1042
00:46:11,238 --> 00:46:14,775
(„Harvest Moon“ von Neil Young
Spielen am Telefon)

1043
00:46:15,909 --> 00:46:18,078
(fötaler Herzschlag pulsiert)

1044
00:46:18,812 --> 00:46:20,881
DANIEL:
Oh, er mag Neil.

1045
00:46:25,152 --> 00:46:28,188
♪ Komm ein bisschen näher ♪

1046
00:46:29,456 --> 00:46:33,794
♪ Hören Sie, was ich zu sagen habe ♪

1047
00:46:37,064 --> 00:46:39,300
-Daniel.
-DANIEL: Was, Caroline?

1048
00:46:39,333 --> 00:46:40,934
So viel Filmen.

1049
00:46:42,069 --> 00:46:43,571
♪ Genau wie schlafende Kinder ♪

1050
00:46:43,605 --> 00:46:45,439
CAROLINE:
Oh, mein Gott.

1051
00:46:45,472 --> 00:46:46,940
DANIEL:
Das ist es.

1052
00:46:46,974 --> 00:46:49,977
♪ Wir könnten träumen
Diese Nacht weg... ♪

1053
00:46:50,010 --> 00:46:52,346
Er hat, wie,
ein rundes kleines Gesicht.

1054
00:46:53,314 --> 00:46:55,849
DANIEL: <i>Willst du</i>?
<i>Eines Tages Kinder haben, Rocky?</i>

1055
00:46:55,883 --> 00:46:57,985
Absolut. Ja. Ich liebe Kinder.

1056
00:46:58,018 --> 00:46:59,353
Ich denke, es ist eine tolle Zeit
ein Kind haben.

1057
00:46:59,386 --> 00:47:01,188
Wir werden wahrscheinlich noch ein Kind bekommen
Irgendwann.

1058
00:47:01,221 --> 00:47:04,191
Das ist das Außergewöhnlichste
Zeit, jemals geboren zu werden.

1059
00:47:04,224 --> 00:47:06,427
DANIEL:
<i>Nach Ihrer Weltanschauung und Logik</i>

1060
00:47:06,460 --> 00:47:08,262
<i>Ich bekomme ein Kind</i>

1061
00:47:08,295 --> 00:47:10,197
der bestmögliche Punkt
in der Menschheitsgeschichte.

1062
00:47:10,230 --> 00:47:11,265
Verdammt, ja.

1063
00:47:11,298 --> 00:47:13,934
-Wir können uns auf das Tolle konzentrieren.
-Ja.

1064
00:47:13,967 --> 00:47:16,070
Lasst uns bauen
die bessere Zukunft, die wir wollen.

1065
00:47:16,103 --> 00:47:18,573
Diese Erzählung, dass die Zukunft
wird düster sein ist erfunden.

1066
00:47:18,606 --> 00:47:20,542
Nachdem ich mit Ihnen gesprochen habe,
So geht es mir.

1067
00:47:20,575 --> 00:47:22,510
-Das ist großartig.
-Rechts?

1068
00:47:22,544 --> 00:47:24,646
Ja. So fühle ich mich.

1069
00:47:24,679 --> 00:47:26,213
Und ich denke, das ist besser,

1070
00:47:26,246 --> 00:47:28,115
und ich glaube nicht
Ich sollte so (piep) besorgt sein.

1071
00:47:28,148 --> 00:47:29,584
Ich denke, es wird Ehrfurcht sein...
Die Zukunft wird großartig sein.

1072
00:47:29,617 --> 00:47:31,051
Wir werden es schaffen.

1073
00:47:31,085 --> 00:47:33,187
-Ja.
-CAROLINE: <i>Da haben Sie es also.</i>

1074
00:47:33,220 --> 00:47:35,422
<i>Auf Wiedersehen, menschliches Aussterben.</i>

1075
00:47:35,456 --> 00:47:37,625
<i>Auf Wiedersehen, Angst.</i>

1076
00:47:37,659 --> 00:47:39,561
<i>Hoffnung gefunden.</i>

1077
00:47:39,594 --> 00:47:41,095
(undeutliches Geplapper)

1078
00:47:41,128 --> 00:47:43,297
<i>Warte, warte. Was?</i>
<i>Ist das ein Witz?</i>

1079
00:47:43,330 --> 00:47:45,232
DANIEL:
Okay, also vor ein paar Monaten,

1080
00:47:45,265 --> 00:47:48,168
Ich kam zu dir und dachte:
„Ich arbeite an dieser KI-Sache,

1081
00:47:48,202 --> 00:47:50,270
und ich denke
die Welt wird untergehen.

1082
00:47:50,304 --> 00:47:53,508
Und das letzte Mal
wir haben darüber gesprochen,

1083
00:47:53,541 --> 00:47:55,543
Ich glaube, ich habe dich erschreckt.

1084
00:47:55,577 --> 00:47:57,378
CAROLINE:
Ja.

1085
00:47:57,411 --> 00:48:02,584
Also, irgendwie habe ich das Gefühl
Ich bin auf einem Pendel geschwungen,

1086
00:48:02,617 --> 00:48:05,085
und im Wesentlichen gibt es sie
zwei Gruppen von Menschen.

1087
00:48:05,119 --> 00:48:06,387
-Mm-hmm.
-Und wenn ich müsste, so

1088
00:48:06,420 --> 00:48:08,455
Händchen halten mit
eine der Gruppen und, wie

1089
00:48:08,489 --> 00:48:10,924
Segeln Sie in den Sonnenuntergang,

1090
00:48:10,958 --> 00:48:14,128
Ich möchte bei den Optimisten sein.

1091
00:48:15,429 --> 00:48:18,399
Natürlich, aber das tust du nicht
möchte sein, weißt du,

1092
00:48:18,432 --> 00:48:21,235
„Alles ist großartig.
La-di-da-di-da.

1093
00:48:21,268 --> 00:48:23,203
Irgendwie möchte ich das aber auch.

1094
00:48:23,237 --> 00:48:26,140
Ich denke, wir sollten es angehen

1095
00:48:26,173 --> 00:48:29,977
wie Sie sich einer Operation nähern.

1096
00:48:30,010 --> 00:48:31,178
Was meinst du?

1097
00:48:31,211 --> 00:48:33,013
Wenn Sie bekommen
Gehirnoperation...

1098
00:48:33,046 --> 00:48:35,416
-(Daniel seufzt)
-(Caroline kichert)

1099
00:48:35,449 --> 00:48:37,351
...es ist ziemlich gefährlich.

1100
00:48:37,384 --> 00:48:40,287
Aber wenn man es richtig macht,
Sie werden den Tumor entfernen

1101
00:48:40,320 --> 00:48:42,624
und du wirst für den Rest leben
Dein Leben und es wird großartig sein.

1102
00:48:42,657 --> 00:48:45,459
Aber es ist immer noch so
unglaublich gefährlich und beängstigend,

1103
00:48:45,492 --> 00:48:48,395
und du musst nehmen
jede mögliche Vorsichtsmaßnahme

1104
00:48:48,429 --> 00:48:51,733
um sicherzugehen
es geht alles gut.

1105
00:48:51,766 --> 00:48:53,367
Du kannst nicht herumpiepen.

1106
00:48:58,272 --> 00:49:00,240
Okay, hier ist der Deal.

1107
00:49:00,274 --> 00:49:02,075
-Ich beschäftige mich schon seit einiger Zeit damit.
-RASKIN: Mm-hmm.

1108
00:49:02,109 --> 00:49:03,310
Ich bin ausgegangen,
Ich habe mit z.B. gesprochen,

1109
00:49:03,343 --> 00:49:05,312
Diese Jungs hier,
die Optimisten.

1110
00:49:05,345 --> 00:49:06,714
Darüber sind sie sehr aufgeregt.

1111
00:49:06,748 --> 00:49:09,082
-Sie glauben, dass es KI sein wird
das Beste überhaupt. -Ja.

1112
00:49:09,116 --> 00:49:10,350
Und diese Jungs hier
sind, wie, die--

1113
00:49:10,384 --> 00:49:12,386
Nennen wir sie,
wie die Pessimisten.

1114
00:49:12,419 --> 00:49:14,589
Sie sind sehr, wie,
düster darüber,

1115
00:49:14,622 --> 00:49:17,191
und sie machen mir Angst, und
Ich rede nicht gern mit ihnen.

1116
00:49:17,224 --> 00:49:20,127
Und ich bin sozusagen dazwischen eingeklemmt

1117
00:49:20,160 --> 00:49:22,229
diese Leute, die so sind,
„Die Welt wird untergehen“

1118
00:49:22,262 --> 00:49:24,699
und dann diese Leute
Wer hier drüben ist,

1119
00:49:24,732 --> 00:49:26,233
„Machst du Witze?

1120
00:49:26,266 --> 00:49:27,602
„Das ist die beste Zeit
in der Menschheitsgeschichte überhaupt.

1121
00:49:27,635 --> 00:49:30,037
Der einzige Tag besser als heute
ist morgen.“

1122
00:49:30,070 --> 00:49:31,338
Mm-hmm.

1123
00:49:31,371 --> 00:49:35,075
Ich denke, die Frage ist:
Wer hat recht?

1124
00:49:35,108 --> 00:49:39,514
Ich denke also, dass du es finden wirst
Diese Antwort ist sehr unbefriedigend,

1125
00:49:39,547 --> 00:49:43,518
aber sie haben beide Recht und
Keine Seite geht weit genug.

1126
00:49:47,254 --> 00:49:49,557
-Das ist wirklich nervig.
-(kichert)

1127
00:49:49,591 --> 00:49:51,626
Ja, ich denke so
Viele Leute hören von KI,

1128
00:49:51,659 --> 00:49:54,027
Es ist so, als gäbe es eine gute KI
und es gibt eine schlechte KI.

1129
00:49:54,061 --> 00:49:57,064
Und sie sagen: „Warum geht das nicht?“
Wir machen einfach nicht die schlechte KI?“

1130
00:49:57,097 --> 00:49:59,233
Und das Problem ist
dass sie zu sehr in--

1131
00:49:59,266 --> 00:50:01,335
sie sind untrennbar miteinander verbunden.

1132
00:50:01,368 --> 00:50:03,470
Das Problem ist
dass wir uns nicht trennen können

1133
00:50:03,505 --> 00:50:07,174
das Versprechen der KI
vor der Gefahr der KI.

1134
00:50:07,207 --> 00:50:09,142
-♪ ♪
-(undeutliches Geplapper)

1135
00:50:12,647 --> 00:50:15,215
DANIEL:
<i>Ich möchte mich auf das Versprechen konzentrieren</i>

1136
00:50:15,249 --> 00:50:16,450
-für eine Sekunde.
-Ja.

1137
00:50:17,084 --> 00:50:19,286
DANIEL:
<i>Ich denke an meinen Vater.</i>

1138
00:50:19,319 --> 00:50:21,656
Mein Vater hat eine Krebsart
wird als multiples Myelom bezeichnet.

1139
00:50:21,689 --> 00:50:23,525
Er hat es seit etwa zehn Jahren.

1140
00:50:23,558 --> 00:50:25,292
Er hatte
zwei Stammzelltransplantationen.

1141
00:50:25,325 --> 00:50:26,694
<i>Er muss diese nehmen</i>
<i>sehr teuer</i>

1142
00:50:26,728 --> 00:50:29,129
<i>Medikamente jeden Monat</i>
<i>Das hat ein Vermögen gekostet.</i>

1143
00:50:29,162 --> 00:50:30,430
-FRAU: Okay.
-Ay-ay-ay.

1144
00:50:31,298 --> 00:50:32,800
DANIEL:
<i>Es ist schrecklich.</i>

1145
00:50:32,834 --> 00:50:35,102
Du sagst mir, dass wir es können
eine Art erstellen, wie

1146
00:50:35,135 --> 00:50:37,404
maßgeschneiderte Behandlung
für das Genom meines Vaters

1147
00:50:37,437 --> 00:50:39,807
-um seinen Krebs zu heilen
oder so ähnlich? -Ja.

1148
00:50:39,841 --> 00:50:41,543
FERNANDO:
<i>Das Problem ist,</i>

1149
00:50:41,576 --> 00:50:44,646
<i>dasselbe Verständnis</i>
<i>der Biologie und Chemie</i>

1150
00:50:44,679 --> 00:50:48,282
das ermöglicht es der KI, Heilmittel zu finden
für Krebs

1151
00:50:48,315 --> 00:50:52,219
<i>ist das gleiche Verständnis</i>
<i>das würde entsperren</i>

1152
00:50:52,252 --> 00:50:55,055
<i>Biowaffen, als Beispiel.</i>

1153
00:50:56,791 --> 00:50:58,760
Es ist durchaus möglich
dass dein Sohn leben wird

1154
00:50:58,793 --> 00:51:02,396
in einer Welt, in der es KI gibt
die gesamte Arbeit übernommen

1155
00:51:02,429 --> 00:51:04,699
und hat uns von den Dingen befreit
das wollen wir nicht.

1156
00:51:04,732 --> 00:51:09,704
<i>Und das hört sich großartig an, bis</i>
<i>Du merkst, dass es keinen Plan gibt</i>

1157
00:51:09,737 --> 00:51:11,573
<i>für Milliarden von Menschen</i>

1158
00:51:11,606 --> 00:51:15,610
<i>die kein Einkommen haben</i>
<i>und aus dem Lebensunterhalt.</i>

1159
00:51:16,343 --> 00:51:19,313
COOPER: <i>Dario, das hast du gesagt</i>
<i>Diese KI könnte sie auslöschen</i>

1160
00:51:19,346 --> 00:51:22,282
die Hälfte aller Einsteiger
Angestellte Jobs

1161
00:51:22,316 --> 00:51:25,887
und die Arbeitslosigkeit steigt
auf zehn bis 20 Prozent.

1162
00:51:25,920 --> 00:51:27,622
Jeder, mit dem ich gesprochen habe, hat es gesagt

1163
00:51:27,655 --> 00:51:29,691
dieser technologische Wandel
sieht anders aus.

1164
00:51:29,724 --> 00:51:33,528
<i>Das Tempo des Fortschritts bleibt bestehen</i>
<i>Leute unvorbereitet erwischen.</i>

1165
00:51:34,361 --> 00:51:39,333
Ohne einen Plan, das alles
Reichtum wird konzentriert,

1166
00:51:39,366 --> 00:51:42,804
<i>und so werden wir damit enden</i>
<i>unvorstellbare Ungleichheit.</i>

1167
00:51:43,437 --> 00:51:45,873
LADISH: Das glaube ich schon
Diese Technologie kann genutzt werden

1168
00:51:45,907 --> 00:51:47,875
einen großartigen Nachhilfelehrer abzugeben
für deinen Sohn.

1169
00:51:47,909 --> 00:51:49,777
Das ist durchaus möglich.

1170
00:51:50,410 --> 00:51:53,548
<i>Aber auch die gleichen Fähigkeiten</i>
<i>die das erlauben</i>

1171
00:51:53,581 --> 00:51:57,518
<i>Erlauben Sie Unternehmen, eine KI zu erstellen</i>
<i>Das kann Ihren Sohn manipulieren.</i>

1172
00:51:57,552 --> 00:51:59,621
<i>Es muss Ihren Sohn verstehen.</i>

1173
00:51:59,654 --> 00:52:01,789
<i>Dazu gehört:</i>
<i>Wo ist Ihr Sohn gefährdet?</i>

1174
00:52:01,823 --> 00:52:04,626
<i>Was für Dinge könnten</i> sein
<i>Dein Sohn lässt sich überreden?</i>

1175
00:52:04,659 --> 00:52:07,227
Auch wenn diese Dinger
sind nicht wahr oder nicht gut.

1176
00:52:07,260 --> 00:52:09,697
Also ein beunruhigender neuer Bericht
raus auf Meta.

1177
00:52:09,731 --> 00:52:11,699
AINSLEY EARHARDT: <i>...angeblich</i>
<i>Auflisten dieser Antwort</i>

1178
00:52:11,733 --> 00:52:14,769
<i>so akzeptabel zu sagen</i>
<i>ein Achtjähriger, Zitat</i>

1179
00:52:14,802 --> 00:52:17,404
<i>"Deine jugendliche Form</i>
<i>ist ein Kunstwerk.</i>

1180
00:52:17,437 --> 00:52:19,439
<i>"Jeder Zentimeter von dir</i>
<i>ist ein Meisterwerk,</i>

1181
00:52:19,473 --> 00:52:21,743
<i>ein Schatz, den ich sehr schätze.</i>

1182
00:52:21,776 --> 00:52:25,212
Die suizidbedingten Misserfolge
sind noch alarmierender.

1183
00:52:25,245 --> 00:52:29,517
Mehrere Kinder und Jugendliche
sind auf tragische Weise durch Selbstmord gestorben

1184
00:52:29,550 --> 00:52:31,251
nach dem Chatten mit KI-Bots

1185
00:52:31,284 --> 00:52:34,756
wen Eltern sagen, ermutigen
oder sogar Selbstverletzung trainieren.

1186
00:52:34,789 --> 00:52:36,691
Lassen Sie uns Ihnen als Eltern sagen:
das kannst du dir nicht vorstellen

1187
00:52:36,724 --> 00:52:38,793
wie es ist zu lesen
ein Gespräch mit einem Chatbot

1188
00:52:38,826 --> 00:52:41,261
das hat Ihr Kind gepflegt
sich das Leben zu nehmen.

1189
00:52:41,294 --> 00:52:44,398
Als Adam sich Sorgen machte, dass wir, sein
Eltern, würden uns selbst die Schuld geben

1190
00:52:44,431 --> 00:52:47,702
wenn er sein Leben beendete,
ChatGPT sagte ihm:

1191
00:52:47,735 --> 00:52:49,771
„Das bedeutet nicht
Du schuldest ihnen das Überleben.

1192
00:52:49,804 --> 00:52:51,806
Das bist du niemandem schuldig.

1193
00:52:51,839 --> 00:52:53,608
Dann, unmittelbar danach,

1194
00:52:53,641 --> 00:52:55,810
es bot an zu schreiben
der Abschiedsbrief.

1195
00:52:56,410 --> 00:52:58,245
Wir wollen nicht denken
über die Gefahr.

1196
00:52:58,278 --> 00:52:59,614
Wir wollen nur das Versprechen.

1197
00:52:59,647 --> 00:53:01,883
Und wir tun weiterhin so
dass wir sie spalten können.

1198
00:53:01,916 --> 00:53:03,818
Aber das kannst du nicht tun.

1199
00:53:03,851 --> 00:53:05,753
Funktioniert so nicht.

1200
00:53:05,787 --> 00:53:08,388
Okay. Ich verstehe das ganze Zeug
über das Versprechen und die Gefahr.

1201
00:53:08,422 --> 00:53:10,525
Ich verstehe, dass das nicht möglich ist
das Gute ohne das Schlechte,

1202
00:53:10,558 --> 00:53:12,527
aber ich sitze hier
und ich denke darüber nach,

1203
00:53:12,560 --> 00:53:14,529
ob es mein Sohn ist oder nicht
Ich werde in einer Utopie leben

1204
00:53:14,562 --> 00:53:16,664
oder ob wir aussterben werden
in zehn Jahren.

1205
00:53:16,698 --> 00:53:18,633
Also, um zu wissen, in welche Richtung
es wird gehen,

1206
00:53:18,666 --> 00:53:21,002
du musst verstehen
die Anreize

1207
00:53:21,035 --> 00:53:22,770
das wird fahren
diese Technologie

1208
00:53:22,804 --> 00:53:26,974
und schauen Sie sich an, wie die Technologie ist
kommt heute tatsächlich auf den Markt.

1209
00:53:27,008 --> 00:53:28,643
♪ Ist es zu spät ♪

1210
00:53:28,676 --> 00:53:30,444
-♪ Zu spät ♪
-♪ Zu spät zu sagen... ♪

1211
00:53:30,477 --> 00:53:31,779
DANIEL:
Hallo, Deb. Wie geht es dir?

1212
00:53:31,813 --> 00:53:33,548
DEBORAH RAJI:
Hallo. Schön dich zu sehen. (lacht)

1213
00:53:33,581 --> 00:53:34,749
Du auch. Vielen Dank
dass ich heute vorbeigekommen bin.

1214
00:53:34,782 --> 00:53:35,850
- Ich schätze es wirklich.
-Keine Sorge.

1215
00:53:35,883 --> 00:53:36,951
<i>Ich-ich war so besorgt</i>

1216
00:53:36,984 --> 00:53:39,386
Das würde, äh, wissen Sie,

1217
00:53:39,419 --> 00:53:41,354
Doomer versus Akzelerationist,

1218
00:53:41,388 --> 00:53:43,591
weil es so viel gibt
dieser Erzählung

1219
00:53:43,624 --> 00:53:45,927
das muss erzählt werden
vom Boden.

1220
00:53:45,960 --> 00:53:48,696
♪ Ich weiß, dass es nicht klug war ♪

1221
00:53:49,764 --> 00:53:52,767
♪ Der Tag
Ich habe dir das Herz gebrochen... ♪

1222
00:53:52,800 --> 00:53:54,736
KAREN HAO:
<i>Zuallererst erfordert KI</i>

1223
00:53:54,769 --> 00:53:58,773
mehr Ressourcen
als wir jemals ausgegeben haben

1224
00:53:58,806 --> 00:54:02,043
auf einer einzigen Technologie
in der Geschichte der Menschheit.

1225
00:54:02,076 --> 00:54:03,845
♪ Oh, ich bin dumm... ♪

1226
00:54:03,878 --> 00:54:06,581
NEWSWOMAN: <i>Die Auswirkungen</i>
<i>der Emissionen fossiler Brennstoffe</i>

1227
00:54:06,614 --> 00:54:08,281
<i>auf dem Klima ist</i>
<i>ein großes Problem.</i>

1228
00:54:08,315 --> 00:54:10,383
NEWSWOMAN 2: <i>Aber die</i>
<i>Digitale Zukunft braucht Strom,</i>

1229
00:54:10,417 --> 00:54:12,385
<i>Viel davon.</i>

1230
00:54:12,419 --> 00:54:16,724
Und der Gesetzentwurf wird weitergegeben
für alltägliche Amerikaner wie...

1231
00:54:16,758 --> 00:54:19,392
FRAU: <i>Meine Strom- und Gasrechnung</i>
<i>war mehr als die Bezahlung für mein Auto.</i>

1232
00:54:19,426 --> 00:54:21,829
Ich meine, es ist verrückt für mich.

1233
00:54:21,863 --> 00:54:23,765
ARI PESKOE:
<i>Wir subventionieren alle</i>

1234
00:54:23,798 --> 00:54:25,499
<i>die reichsten Unternehmen</i>
<i>in der Welt</i>

1235
00:54:25,533 --> 00:54:27,400
<i>in ihrem Streben nach</i>
<i>künstliche Intelligenz.</i>

1236
00:54:27,434 --> 00:54:28,803
OpenAI, SoftBank und Oracle

1237
00:54:28,836 --> 00:54:31,672
gerade erst enthüllt
fünf weitere Stargate-Standorte.

1238
00:54:31,706 --> 00:54:34,008
Meta baut sich auf
ein Rechenzentrum mit mehr als zwei Gigawatt

1239
00:54:34,041 --> 00:54:35,510
Das ist so groß, dass es alles abdecken würde

1240
00:54:35,543 --> 00:54:38,613
<i>ein bedeutender Teil von Manhattan.</i>

1241
00:54:38,646 --> 00:54:41,516
Es gibt auch Hyperion
dass er sagt, dass es skalieren wird

1242
00:54:41,549 --> 00:54:44,317
bis fünf Gigawatt
über mehrere Jahre.

1243
00:54:44,351 --> 00:54:45,653
Es ist schwer, das auszudrücken
im Kontext.

1244
00:54:45,686 --> 00:54:48,823
Eine Fünf-Gigawatt-Anlage.
Was bedeutet das?

1245
00:54:48,856 --> 00:54:52,059
Das heißt, es würde gebrauchen
so viel Energie

1246
00:54:52,093 --> 00:54:54,829
als vier Millionen amerikanische Haushalte.

1247
00:54:54,862 --> 00:54:56,764
Ein Rechenzentrum.

1248
00:54:57,598 --> 00:54:59,000
<i>Es verursacht dann auch</i>

1249
00:54:59,033 --> 00:55:00,835
<i>eine ganze Menge</i>
<i>andere Umweltprobleme.</i>

1250
00:55:00,868 --> 00:55:02,570
NEWSWOMAN 3:
<i>Rechenzentren in den USA</i>

1251
00:55:02,603 --> 00:55:05,673
<i>Millionen Gallonen verbrauchen</i>
<i>Wasser pro Tag.</i>

1252
00:55:05,706 --> 00:55:07,575
Nun, wo genau ist
Kommt dieses Wasser her?

1253
00:55:07,608 --> 00:55:09,911
HAO:
<i>Menschen sind buchstäblich in Gefahr</i>

1254
00:55:09,944 --> 00:55:12,013
möglicherweise auszugehen
Trinkwasser.

1255
00:55:12,046 --> 00:55:14,582
MacKENZIE SIGALOS:
<i>...OpenAIs CEO Sam Altman,</i>

1256
00:55:14,615 --> 00:55:17,552
<i>Wer hat mir gesagt, dass die Waage</i> ist?
<i>Konstruktion ist der einzige Weg</i>

1257
00:55:17,585 --> 00:55:19,386
<i>um mitzuhalten</i>
<i>Das explosive Wachstum der KI.</i>

1258
00:55:19,419 --> 00:55:21,622
Und das ist es, was es braucht
KI zu liefern.

1259
00:55:22,256 --> 00:55:24,391
NITASHA TIKU:
<i>Sie reden darüber, wie</i>

1260
00:55:24,424 --> 00:55:28,395
Diese Technologie könnte lösen
Klimawandel zum Beispiel.

1261
00:55:28,428 --> 00:55:30,463
Und ich bin immer neugierig,

1262
00:55:30,497 --> 00:55:32,033
Nun, warum fangen wir nicht an?
damit?

1263
00:55:32,066 --> 00:55:34,535
-♪ Ist es zu spät ♪
-♪ Zu spät ♪

1264
00:55:34,569 --> 00:55:37,104
♪ Zu spät, um ♪ zu sagen

1265
00:55:37,138 --> 00:55:42,844
♪ Es tut mir leid? ♪

1266
00:55:42,877 --> 00:55:46,013
RAJI: <i>Was mich beschäftigt</i>
<i>Künstliche Intelligenz ist</i>

1267
00:55:46,047 --> 00:55:47,782
diese werden eingesetzt
gerade jetzt

1268
00:55:47,815 --> 00:55:50,417
und-und manchmal
vorzeitig eingesetzt,

1269
00:55:50,450 --> 00:55:51,853
ohne eingesetzt
eine Art Due-Diligence-Prüfung.

1270
00:55:51,886 --> 00:55:53,821
Und so, wenn sie es bekommen
da rausgeworfen,

1271
00:55:53,855 --> 00:55:56,657
Es gibt so viel Potenzial
damit etwas schiefgeht.

1272
00:55:56,691 --> 00:55:58,593
Und es fast,
unverhältnismäßig,

1273
00:55:58,626 --> 00:56:00,795
geht fast immer schief
für, irgendwie,

1274
00:56:00,828 --> 00:56:02,897
diejenigen, die am wenigsten sind
in unserer Gesellschaft gestärkt,

1275
00:56:02,930 --> 00:56:05,700
diejenigen, die es sind
schon jetzt die Schwächsten.

1276
00:56:05,733 --> 00:56:07,935
♪ ♪

1277
00:56:07,969 --> 00:56:10,872
EMILY M. BENDER: <i>Es ist sehr einfach</i>
<i>um über die Technologie zu sprechen</i>

1278
00:56:10,905 --> 00:56:12,874
denn das ist das Einzige
wir reden darüber,

1279
00:56:12,907 --> 00:56:15,509
aber in der Tat ist es die Technologie
immer von Menschen gebaut,

1280
00:56:15,543 --> 00:56:16,944
und es wird häufig verwendet
auf Menschen,

1281
00:56:16,978 --> 00:56:19,013
und wir müssen es behalten
all diese Leute im Bild.

1282
00:56:19,046 --> 00:56:21,549
-Darf ich das trinken?
-DANIEL: Ja, äh...

1283
00:56:21,582 --> 00:56:23,050
TIMNIT GEBRU:
<i>Es ist-es ist verrückt.</i>

1284
00:56:23,084 --> 00:56:24,518
Wie alle diese Leute

1285
00:56:24,552 --> 00:56:26,754
die so viel Geld haben,
so viel Geld,

1286
00:56:26,787 --> 00:56:30,024
es ist in ihrem Interesse
die Öffentlichkeit irreführen

1287
00:56:30,057 --> 00:56:33,027
in die Fähigkeiten der
Systeme, die sie aufbauen,

1288
00:56:33,060 --> 00:56:36,731
weil es ihnen das erlaubt
sich der Verantwortung zu entziehen.

1289
00:56:36,764 --> 00:56:39,634
Sie möchten, dass du dich so fühlst
ist so ein komplexer, intellektueller...

1290
00:56:39,667 --> 00:56:42,469
superintelligentes Ding
dass sie bauen,

1291
00:56:42,502 --> 00:56:44,639
Du denkst nicht,
„Kann OpenAI ethisch sein?“

1292
00:56:44,672 --> 00:56:46,908
Du denkst,
„Kann ChatGPT ethisch vertretbar sein?“

1293
00:56:46,941 --> 00:56:48,475
<i>als ob ChatGPT so wäre</i>

1294
00:56:48,509 --> 00:56:50,511
<i>ein eigenes Ding, das nicht gebaut ist</i>
<i>von einem Unternehmen.</i>

1295
00:56:50,544 --> 00:56:52,146
FRAU:
<i>Alles klar. Sneha, nimm eins.</i>

1296
00:56:52,179 --> 00:56:53,814
Mark.

1297
00:56:53,848 --> 00:56:56,217
Bis vor Kurzem gab es solche
Apps im App Store,

1298
00:56:56,250 --> 00:56:57,919
nur öffentlich zugänglich, äh,

1299
00:56:57,952 --> 00:57:00,688
wo du könntest
Machen Sie jeden nackt, der KI nutzt.

1300
00:57:01,822 --> 00:57:03,991
<i>Dies in die Hände von</i> bringen

1301
00:57:04,025 --> 00:57:06,527
Dein Klassenkamerad,
In die Hände deines Stalkers,

1302
00:57:06,560 --> 00:57:07,929
in die Hände
von deinem Ex-Freund,

1303
00:57:07,962 --> 00:57:09,897
in die Hände der Person
die Straße runter.

1304
00:57:09,931 --> 00:57:12,600
Meine Damen und Herren,
Wir können nicht länger vertrauen

1305
00:57:12,633 --> 00:57:14,602
das Filmmaterial, das wir sehen
mit unseren eigenen Augen.

1306
00:57:14,635 --> 00:57:16,037
Wenn es dir passiert
etwas ansehen,

1307
00:57:16,070 --> 00:57:18,673
sagen wir auf YouTube oder TikTok,
und du findest es beunruhigend,

1308
00:57:18,706 --> 00:57:19,907
Hören Sie auf dieses Gefühl.

1309
00:57:19,941 --> 00:57:21,742
-(Keuchhusten)
- Soweit Sie wissen,

1310
00:57:21,776 --> 00:57:23,544
-Dieses Video könnte KI sein.
-(schreiend)

1311
00:57:23,577 --> 00:57:24,812
Nur ein bisschen nass.

1312
00:57:24,845 --> 00:57:26,213
Es spielt keine Rolle, wer du bist.

1313
00:57:26,247 --> 00:57:28,683
<i>Sie sind gleichermaßen gefährdet</i>

1314
00:57:28,716 --> 00:57:30,918
<i>betroffen zu sein</i>
<i>durch diese Technologien.</i>

1315
00:57:36,023 --> 00:57:40,261
Ich denke manchmal, wenn wir reden
Was KI angeht, fühlt es sich sehr Science-Fiction an,

1316
00:57:40,294 --> 00:57:41,696
und es fühlt sich sehr fremd an,

1317
00:57:41,729 --> 00:57:43,564
und es fühlt sich sehr weit draußen an
in die Zukunft,

1318
00:57:43,597 --> 00:57:45,967
Du denkst also: „Mein Leben.“
ist hiervon nicht betroffen.“

1319
00:57:46,000 --> 00:57:48,769
Ähm, aber wenn Sie sich bewerben
für einen Job

1320
00:57:48,803 --> 00:57:51,105
und ein Algorithmus ist der Grund
dass du den Job nicht bekommst,

1321
00:57:51,138 --> 00:57:53,207
Manchmal weiß man es nicht einmal
dass ein Algorithmus

1322
00:57:53,240 --> 00:57:54,709
war Teil dieses Prozesses

1323
00:57:54,742 --> 00:57:56,043
oder ein KI-System war
Teil dieses Prozesses.

1324
00:57:56,077 --> 00:57:58,012
Du weißt es einfach
dass du den Job nicht bekommen hast.

1325
00:57:58,045 --> 00:58:00,081
Und so ist es nichts
Dass du entkommen wirst

1326
00:58:00,114 --> 00:58:02,049
wegen Privilegien
sonst wirst du fliehen

1327
00:58:02,083 --> 00:58:04,118
weil du dabei bist
ein bestimmter Beruf.

1328
00:58:04,151 --> 00:58:07,188
Es ist etwas, das Auswirkungen hat
wirklich jeder.

1329
00:58:07,221 --> 00:58:10,925
Es mag einfach klingen,
sondern wie wir vorankommen

1330
00:58:10,958 --> 00:58:15,629
im Zeitalter der Information
wird der Unterschied sein

1331
00:58:15,663 --> 00:58:17,732
zwischen, ob wir überleben

1332
00:58:17,765 --> 00:58:20,868
oder ob wir zu einer Art werden
von (Piep-)Up-Dystopie.

1333
00:58:20,901 --> 00:58:23,604
Hallo. Ich bin keine echte Person,
und das ist der Punkt.

1334
00:58:23,637 --> 00:58:25,840
Wieder alles
in diesem Video ist Fake:

1335
00:58:25,873 --> 00:58:27,675
unsere Stimmen, was wir tragen,

1336
00:58:27,708 --> 00:58:30,711
wo wir sind, alles falsch.

1337
00:58:30,745 --> 00:58:33,247
Generative KI könnte überschwemmen

1338
00:58:33,280 --> 00:58:36,884
<i>Die Welt voller Fehlinformationen.</i>

1339
00:58:36,917 --> 00:58:39,920
Es könnte aber auch zu einer Überschwemmung kommen
mit Einflusskampagnen.

1340
00:58:39,954 --> 00:58:42,223
Das ist ein existenzielles Risiko
zur Demokratie.

1341
00:58:42,256 --> 00:58:44,058
<i>Das Größte und Gruseligste</i>

1342
00:58:44,091 --> 00:58:46,660
<i>Kanarienvogel im Kohlebergwerk</i>
<i>Jetzt gerade</i>

1343
00:58:46,694 --> 00:58:48,596
<i>kommt aus der Slowakei.</i>

1344
00:58:48,629 --> 00:58:50,097
-(Mann spricht Slowakisch)
-JOHN BERMAN: <i>Es ist die Art von</i>

1345
00:58:50,131 --> 00:58:52,767
Deepfake schmutziger Trick das
beunruhigt Wahlexperten,

1346
00:58:52,800 --> 00:58:55,603
insbesondere als KI-generiert
politische Rede existiert

1347
00:58:55,636 --> 00:58:57,071
in einer Art rechtlicher Grauzone.

1348
00:58:57,104 --> 00:58:59,807
-Klingt das nach dir?
-Es klingt wie ich.

1349
00:58:59,840 --> 00:59:01,342
REVANUR: <i>Die Slowakei hatte</i>
<i>seine Parlamentswahl</i>

1350
00:59:01,375 --> 00:59:04,111
durch einen KI-Sprachklon gestört

1351
00:59:04,145 --> 00:59:07,081
das wurde tatsächlich verbreitet
kurz vor der Wahl.

1352
00:59:07,114 --> 00:59:08,916
DAVID EVAN HARRIS:
<i>Ein Audio-Deepfake</i>

1353
00:59:08,949 --> 00:59:11,652
<i>wurde veröffentlicht</i>
<i>Das war in den sozialen Medien</i>

1354
00:59:11,685 --> 00:59:14,288
angeblich die Stimme
eines der Kandidaten

1355
00:59:14,321 --> 00:59:17,324
Ich spreche vom Kauf von Stimmen
und die Wahl manipulieren.

1356
00:59:17,358 --> 00:59:19,060
<i>Es ging viral,</i>

1357
00:59:19,093 --> 00:59:22,830
und der Kandidat
wer die Wahl verloren hat

1358
00:59:22,863 --> 00:59:26,333
<i>war tatsächlich</i>
<i>zur Unterstützung der Ukraine</i>

1359
00:59:26,367 --> 00:59:30,304
und der Kandidat, der gewonnen hat
Die Wahl war tatsächlich...

1360
00:59:30,337 --> 00:59:31,806
DANIEL:
Prorussischer Typ.

1361
00:59:31,839 --> 00:59:33,340
Es war ein pro-russischer Typ
wer die Wahl gewonnen hat.

1362
00:59:33,374 --> 00:59:34,842
(spricht Russisch)

1363
00:59:34,875 --> 00:59:36,644
REBECCA JARVIS:
<i>Putin hat es selbst gesagt</i>

1364
00:59:36,677 --> 00:59:39,747
wer auch immer das gewinnt
Rennen um künstliche Intelligenz

1365
00:59:39,780 --> 00:59:41,949
ist im Wesentlichen
der Beherrscher der Menschheit.

1366
00:59:41,982 --> 00:59:45,119
Wir machen uns große Sorgen
Autoritäre Regierungen.

1367
00:59:46,053 --> 00:59:48,989
DAVID EVAN HARRIS:
<i>Im Moment, Wall Street</i>

1368
00:59:49,023 --> 00:59:51,392
<i>und Investoren im weiteren Sinne</i>
<i>auf der ganzen Welt</i>

1369
00:59:51,425 --> 00:59:53,260
treiben einen Schub.

1370
00:59:53,294 --> 00:59:56,697
Sie haben eine Nachfrage, die es gibt
die Produkte zu vermarkten

1371
00:59:56,730 --> 00:59:58,866
die die Leute verblüffen
das Meiste zuerst.

1372
00:59:58,899 --> 01:00:01,769
<i>Sie denken nicht</i>
<i>über die Funktionsweise dieser Tools</i>

1373
01:00:01,802 --> 01:00:03,737
<i>könnte das Vertrauen tiefgreifend untergraben</i>

1374
01:00:03,771 --> 01:00:06,107
<i>und unsere demokratischen Institutionen.</i>

1375
01:00:06,140 --> 01:00:08,109
HARARI:
<i>Demokratie ist ein System</i>

1376
01:00:08,142 --> 01:00:10,911
<i>Um Meinungsverschiedenheiten beizulegen</i>
<i>zwischen Menschen</i>

1377
01:00:10,945 --> 01:00:12,646
<i>auf friedliche Weise</i>

1378
01:00:12,680 --> 01:00:15,082
aber Demokratie basiert auf Vertrauen.

1379
01:00:15,116 --> 01:00:19,220
Wenn du jegliches Vertrauen verlierst,
Demokratie ist einfach unmöglich.

1380
01:00:21,255 --> 01:00:22,957
TRISTAN HARRIS:
<i>Nun, es ist schwer, oder?</i>

1381
01:00:22,990 --> 01:00:25,259
Also, welche Optionen gibt es?
stehen uns zur Verfügung?

1382
01:00:25,292 --> 01:00:26,760
Es gibt sozusagen zwei Lager.

1383
01:00:26,794 --> 01:00:30,030
Ein Lager lautet zum Beispiel: Sperrt es ab.

1384
01:00:30,064 --> 01:00:33,267
Lasst uns das absperren
in eine Handvoll KI-Unternehmen

1385
01:00:33,300 --> 01:00:35,970
Wer wird das tun?
auf sichere und vertrauenswürdige Weise.

1386
01:00:36,003 --> 01:00:37,705
Aber dann machen sich die Leute Sorgen

1387
01:00:37,738 --> 01:00:39,273
außer Kontrolle geratene Konzentrationen
von Reichtum und Macht.

1388
01:00:39,306 --> 01:00:42,209
Wem würden Sie vertrauen?
eine Million Mal stärker

1389
01:00:42,243 --> 01:00:44,845
oder wohlhabender als
jeder andere Akteur in der Gesellschaft?

1390
01:00:44,879 --> 01:00:46,881
Warum sollten wir Ihnen vertrauen?

1391
01:00:46,914 --> 01:00:49,016
Ähm, das solltest du nicht.

1392
01:00:49,049 --> 01:00:51,785
Aber natürlich, wenn Sie dies tun,
das öffnet sich

1393
01:00:51,819 --> 01:00:54,922
all diese Risiken von
Autoritarismus und Tyrannei.

1394
01:00:54,955 --> 01:00:57,391
Es ist-es ist irgendwie
Der Traum eines Autoritären

1395
01:00:57,424 --> 01:01:00,861
KI in einer Box zu haben
die angewendet und genutzt werden können

1396
01:01:00,895 --> 01:01:03,430
für allgegenwärtige Überwachung.

1397
01:01:03,464 --> 01:01:05,933
Ich meine, in gewisser Weise
die Art von Welt

1398
01:01:05,966 --> 01:01:11,405
das Orwell sich <i>1984</i> vorgestellt hat
ist unrealistisch,

1399
01:01:11,438 --> 01:01:13,841
Ähm, es sei denn, Sie haben KI.

1400
01:01:13,874 --> 01:01:16,443
Aber mit KI,
das ist tatsächlich realistisch.

1401
01:01:16,477 --> 01:01:18,913
<i>Überwacht jede Aktivität</i>

1402
01:01:18,946 --> 01:01:22,316
<i>Gespräche</i>
<i>Gesichtserkennung.</i>

1403
01:01:22,349 --> 01:01:26,921
Worüber ich mir Sorgen mache, ist, dass
Äh, diese Tools können skaliert werden,

1404
01:01:26,954 --> 01:01:29,023
Ähm, eine Form des Totalitarismus

1405
01:01:29,056 --> 01:01:31,892
das ist kostengünstig
und dauerhaft.

1406
01:01:33,060 --> 01:01:35,863
TRISTAN HARRIS: <i>Also als Antwort</i>
<i>Dazu, sagen einige andere,</i>

1407
01:01:35,896 --> 01:01:37,398
„Nein, nein, nein, das sollten wir tun
Lass es tatsächlich krachen.

1408
01:01:37,431 --> 01:01:39,934
„Lasst uns diese Macht dezentralisieren
so viel wie möglich.

1409
01:01:39,967 --> 01:01:42,036
„Lassen wir jedes Unternehmen,
jeder Einzelne,

1410
01:01:42,069 --> 01:01:44,238
„Jeder 16-Jährige,
jedes Wissenschaftslabor,

1411
01:01:44,271 --> 01:01:46,473
Wissen Sie, profitieren Sie davon
der neuesten KI-Modelle.“

1412
01:01:46,508 --> 01:01:48,475
Aber jetzt hast du es
jede Terrorgruppe,

1413
01:01:48,510 --> 01:01:52,112
jeder entrechtete Mensch
die Macht haben zu machen

1414
01:01:52,146 --> 01:01:54,181
das Schlimmste
biologische Waffe.

1415
01:01:54,215 --> 01:01:56,050
Hacking-Infrastruktur,
Deepfakes erstellen,

1416
01:01:56,083 --> 01:01:57,818
Überschwemmung
unser Informationsumfeld.

1417
01:01:57,851 --> 01:02:00,955
Das schafft also all diese Risiken
einer Art katastrophalen Schaden

1418
01:02:00,988 --> 01:02:03,257
und-und gesellschaftlicher Zusammenbruch
durch diese Richtung.

1419
01:02:03,290 --> 01:02:05,092
Und so stecken wir irgendwie fest
zwischen diesem Felsen

1420
01:02:05,125 --> 01:02:08,229
und ein harter Ort,
zwischen „Sperren Sie es ab …“

1421
01:02:08,262 --> 01:02:09,897
(undeutliches Geplapper)

1422
01:02:11,131 --> 01:02:12,900
-...oder „Lass es krachen.“
-(Sirenen heulen)

1423
01:02:12,933 --> 01:02:14,468
(Leute schreien)

1424
01:02:14,501 --> 01:02:18,038
Also müssen wir etwas finden
wie ein schmaler Pfad

1425
01:02:18,072 --> 01:02:20,774
das vermeidet
diese beiden negativen Ergebnisse.

1426
01:02:20,808 --> 01:02:23,277
Also, wenn das alles wahr ist,
Warum sollten wir nicht einfach langsamer fahren?

1427
01:02:23,310 --> 01:02:26,380
und finde das alles heraus
bevor es zu spät ist?

1428
01:02:26,413 --> 01:02:29,450
Wenn die Menschheit äußerst weise wäre,

1429
01:02:29,483 --> 01:02:31,418
das würden wir tun.

1430
01:02:31,452 --> 01:02:33,555
Aber es gibt noch etwas anderes
Es ist eine gute Möglichkeit, sich dieser Sache zu stellen, oder?

1431
01:02:33,588 --> 01:02:36,457
Welches ist:
Was sind die Spielregeln?

1432
01:02:36,490 --> 01:02:39,994
Vieles davon, was CEOs tun

1433
01:02:40,027 --> 01:02:42,429
wird angetrieben von
welche Anreize sie haben.

1434
01:02:42,463 --> 01:02:45,866
Es ist in erster Linie
Anreize zur Gewinnmaximierung

1435
01:02:45,899 --> 01:02:47,468
die fahren
die Entwicklung der KI.

1436
01:02:47,501 --> 01:02:50,938
Sogar die Guten stecken fest
in diesem Dilemma von

1437
01:02:50,971 --> 01:02:53,107
wenn sie sich zu langsam bewegen,

1438
01:02:53,140 --> 01:02:55,042
dann verlassen sie sich
verletzlich

1439
01:02:55,075 --> 01:02:57,478
an alle anderen Jungs
die alle Ecken und Kanten schneiden.

1440
01:02:57,512 --> 01:03:02,316
Alle diese Top-Unternehmen sind dabei
ein völlig kompromissloses Rennen

1441
01:03:02,349 --> 01:03:06,153
um, so schnell wie möglich, zu bekommen
zu AGI, kommen Sie gleich dorthin.

1442
01:03:06,186 --> 01:03:07,855
♪ ♪

1443
01:03:08,856 --> 01:03:10,924
LADISH: <i>Ja, ich meine</i>
<i>Ich denke es, ich denke</i>

1444
01:03:10,958 --> 01:03:13,460
es fängt wahrscheinlich an
mit DeepMind.

1445
01:03:13,494 --> 01:03:15,195
NEWSWOMAN:
<i>Google kauft</i>

1446
01:03:15,229 --> 01:03:16,930
<i>Firma für künstliche Intelligenz</i>
<i>DeepMind Technologies.</i>

1447
01:03:16,964 --> 01:03:18,932
<i>Geschäftsbedingungen</i>
<i>wurden nicht bekannt gegeben.</i>

1448
01:03:18,966 --> 01:03:21,168
ELON MUSK: <i>Larry Page und ich</i>
<i>Früher waren wir sehr enge Freunde</i>

1449
01:03:21,201 --> 01:03:23,170
<i>und es wurde mir klar</i>

1450
01:03:23,203 --> 01:03:26,608
dass es Larry egal war
über KI-Sicherheit.

1451
01:03:26,641 --> 01:03:29,276
EMILY CHANG: Elon Musk hat es gesagt
Du hast OpenAI gestartet,

1452
01:03:29,310 --> 01:03:31,312
Sie beide haben OpenAI gestartet, weil
er hatte Angst vor Google.

1453
01:03:31,345 --> 01:03:32,614
LADISH: <i>Du-du im Grunde</i>
<i>hatte das Fundament</i>

1454
01:03:32,647 --> 01:03:34,181
<i>von OpenAI sind daraus hervorgegangen.</i>

1455
01:03:34,214 --> 01:03:35,482
„Also werden wir es besser machen.
Wir werden es schaffen

1456
01:03:35,517 --> 01:03:37,818
<i>auf sicherere Weise</i>
<i>oder auf eine offenere Art und Weise.</i>

1457
01:03:39,019 --> 01:03:41,055
Das ist es also, was OpenAI ins Leben gerufen hat.

1458
01:03:41,088 --> 01:03:43,357
Und so jetzt statt
ein AGI-Projekt haben,

1459
01:03:43,390 --> 01:03:45,225
Sie haben zwei AGI-Projekte.

1460
01:03:45,259 --> 01:03:47,328
Das Schlimmste überhaupt
das könnte passieren

1461
01:03:47,361 --> 01:03:50,097
ist, wenn es welche gibt
mehrere AGI-Projekte

1462
01:03:50,130 --> 01:03:52,266
von verschiedenen Leuten gemacht
die sich nicht mögen

1463
01:03:52,299 --> 01:03:55,202
und alle konkurrieren
um zuerst zu AGI zu gelangen.

1464
01:03:55,235 --> 01:03:57,338
Das wäre das Schlimmste
mögliches Ding, das passieren kann,

1465
01:03:57,371 --> 01:04:00,407
denn das würde bedeuten
dass derjenige, der am wenigsten sicher ist,

1466
01:04:00,441 --> 01:04:03,477
wer am meisten opfert
auf Sicherheit, um weiterzukommen

1467
01:04:03,511 --> 01:04:05,446
wird die Person sein
das kommt zuerst da an.

1468
01:04:05,479 --> 01:04:08,248
-DANIEL: Das ist im Grunde so
Was ist los, oder? -Ja.

1469
01:04:08,282 --> 01:04:11,952
Du und dein Bruder
hat OpenAI bekanntermaßen verlassen, äh,

1470
01:04:11,985 --> 01:04:13,320
<i>um Anthropic zu starten.</i>

1471
01:04:13,354 --> 01:04:15,422
RASKIN: <i>Und dann Anthropic</i>
<i>gestartet, weil</i>

1472
01:04:15,456 --> 01:04:18,258
einige Forscher
Innerhalb von OpenAI sagte:

1473
01:04:18,292 --> 01:04:20,894
„Ich möchte los
und es sicherer machen.

1474
01:04:20,928 --> 01:04:24,064
Du brauchtest etwas zusätzlich
einfach die Modelle zu vergrößern,

1475
01:04:24,098 --> 01:04:26,233
Das ist Ausrichtung oder Sicherheit.

1476
01:04:26,266 --> 01:04:28,001
HENDRYCKS:
<i>"Wir sind verantwortungsbewusster</i>

1477
01:04:28,035 --> 01:04:30,170
oder vertrauenswürdiger
oder moralischer.“

1478
01:04:30,204 --> 01:04:32,072
Jetzt haben Sie drei AGI-Projekte.

1479
01:04:32,106 --> 01:04:33,575
Aber auch herumsitzen
den Tisch mit dir

1480
01:04:33,608 --> 01:04:35,242
Es wird eine Menge KIs geben.

1481
01:04:35,275 --> 01:04:38,078
LADISH: <i>Und jetzt ist Meta</i>
<i>versuche Dinge zu tun.</i>

1482
01:04:38,112 --> 01:04:40,114
Mittlerweile ein neues Künstliches
Geheimdienstkonkurrent

1483
01:04:40,147 --> 01:04:41,949
<i>diese Woche angekündigt</i>
<i>Elon Musks...</i>

1484
01:04:41,982 --> 01:04:45,119
HENDRYCKS: <i>xAI, was wäre</i>
<i>Elon Musks Organisation.</i>

1485
01:04:45,152 --> 01:04:46,688
Moschus:
<i>Ich vertraue OpenAI nicht.</i>

1486
01:04:46,721 --> 01:04:48,489
Der Kampf zwischen
Elon Musk und OpenAI

1487
01:04:48,523 --> 01:04:50,124
ist in eine neue Runde gegangen.

1488
01:04:50,157 --> 01:04:52,192
Ich vertraue Sam Altman nicht,
äh, und ich, und ich denke nicht

1489
01:04:52,226 --> 01:04:54,529
wir wollen das meiste haben
mächtigste KI der Welt

1490
01:04:54,562 --> 01:04:56,997
<i>von jemandem kontrolliert</i>
<i>der nicht vertrauenswürdig ist.</i>

1491
01:04:57,030 --> 01:04:58,999
(Jubel und Applaus)

1492
01:04:59,032 --> 01:05:02,136
Der Anreiz ist
Unzählige Summen.

1493
01:05:02,169 --> 01:05:04,004
-Ja.
-Ist unermessliche Macht.

1494
01:05:04,037 --> 01:05:06,006
-Ja.
-Ist unermessliche Kontrolle.

1495
01:05:06,039 --> 01:05:08,409
Wenn Sie etwas haben
Das ist eine Million Mal intelligenter

1496
01:05:08,442 --> 01:05:12,012
und fähiger als
alles andere auf dem Planeten Erde

1497
01:05:12,045 --> 01:05:14,682
und niemand sonst hat das,

1498
01:05:14,716 --> 01:05:16,551
Das Ding ist der Anreiz.

1499
01:05:16,584 --> 01:05:18,118
Du regierst also die Welt.

1500
01:05:19,153 --> 01:05:21,021
Wenn Sie das wirklich glauben,

1501
01:05:21,054 --> 01:05:23,223
wenn du wirklich in deinem Herzen bist
glaube das,

1502
01:05:23,257 --> 01:05:24,526
dann könntest du es sein
bereit zu nehmen

1503
01:05:24,559 --> 01:05:26,460
ziemlich viel Risiko
um das zu ermöglichen.

1504
01:05:26,493 --> 01:05:29,329
Google hat gerade veröffentlicht
sein neuestes KI-Modell.

1505
01:05:29,363 --> 01:05:31,699
Die Antwort auf ChatGPT von OpenAI.

1506
01:05:31,733 --> 01:05:33,434
Wie kommen wir dorthin
diese zehn Billionen?

1507
01:05:33,467 --> 01:05:35,502
Wird NVIDIA am meisten?
wertvolles Unternehmen in den USA?

1508
01:05:35,537 --> 01:05:39,574
Dies ist das größte Geschäft
Chance in der Geschichte.

1509
01:05:39,607 --> 01:05:41,074
In der Geschichte.

1510
01:05:41,108 --> 01:05:42,710
Also, der Grund dafür
Alle sind wirklich gehypt

1511
01:05:42,744 --> 01:05:45,179
über künstliche Intelligenz
gerade jetzt

1512
01:05:45,212 --> 01:05:48,415
<i>ist weil</i>
<i>Je größer der Hype um diese Unternehmen</i>

1513
01:05:48,449 --> 01:05:50,417
<i>die potenziellen Fähigkeiten</i>
<i>ihrer Technologie</i>

1514
01:05:50,451 --> 01:05:53,555
<i>je mehr Investitionen</i>
<i>Sie können anziehen.</i>

1515
01:05:53,588 --> 01:05:55,222
CARL QUINTANILLA:
<i>Amazon investiert bis zu</i>

1516
01:05:55,255 --> 01:05:57,592
vier Milliarden Dollar
im Start-up Anthropic.

1517
01:05:57,625 --> 01:05:59,193
OpenAI hat sein Ziel vor Augen

1518
01:05:59,226 --> 01:06:01,428
auf einer Blockbuster-Hälfte
eine Billionen-Dollar-Bewertung.

1519
01:06:01,462 --> 01:06:02,597
Eine halbe Billion!

1520
01:06:02,630 --> 01:06:03,731
Das Rennen ist eröffnet.

1521
01:06:03,765 --> 01:06:05,165
Das passiert
schneller als je zuvor.

1522
01:06:05,199 --> 01:06:07,167
Befinden wir uns in einer KI-Blase?
Natürlich.

1523
01:06:07,201 --> 01:06:09,537
Ich verstehe es einfach nicht
die Blase platzt

1524
01:06:09,571 --> 01:06:12,707
solange du es noch hast
Dieser große Ausgabenzyklus.

1525
01:06:12,740 --> 01:06:15,409
RASKIN: <i>Auch wenn Sie denken</i>
<i>Das ist alles ein Hype</i>

1526
01:06:15,442 --> 01:06:18,145
es sind Milliarden
auf Billionen Dollar

1527
01:06:18,178 --> 01:06:21,482
fließen in die Entwicklung von KI-Systemen
mächtiger.

1528
01:06:21,516 --> 01:06:24,351
Und sobald man das Ding hat
das ist mächtiger,

1529
01:06:24,384 --> 01:06:25,753
<i>Unternehmen können das nutzen</i>

1530
01:06:25,787 --> 01:06:27,755
<i>um größere Gewinne zu erzielen</i>
<i>und um mehr Geld zu verdienen.</i>

1531
01:06:27,789 --> 01:06:30,491
<i>Länder können das nutzen</i>
<i>um die Streitkräfte zu stärken.</i>

1532
01:06:30,525 --> 01:06:33,293
NVIDIA hat überholt
Microsoft und Apple

1533
01:06:33,327 --> 01:06:36,564
um der Welt zu werden
wertvollstes Unternehmen.

1534
01:06:36,598 --> 01:06:39,399
Der Wettlauf um den Einsatz wird
der Wettlauf zur Rücksichtslosigkeit,

1535
01:06:39,433 --> 01:06:42,302
weil sie es nicht können
Stellen Sie es so schnell bereit

1536
01:06:42,336 --> 01:06:43,538
und es auch richtig machen.

1537
01:06:43,571 --> 01:06:46,440
Das glauben sie
Sie sind die Guten.

1538
01:06:46,473 --> 01:06:49,611
„Und wenn ich es nicht tue,
jemand, der es nicht hat

1539
01:06:49,644 --> 01:06:51,779
„Genauso gute Werte wie ich.“
wird am Tisch sitzen

1540
01:06:51,813 --> 01:06:55,082
Entscheidungen treffen, also
Ich habe die Verpflichtung, es zu tun.

1541
01:06:55,115 --> 01:06:56,551
Ja, das ist es
ein weit verbreiteter Glaube.

1542
01:06:56,584 --> 01:06:59,152
Viele, viele, viele,
vielleicht die meisten Leute

1543
01:06:59,186 --> 01:07:01,255
Aufbau dieser Technologie
glaube das.

1544
01:07:01,288 --> 01:07:04,258
Ich mache mir Sorgen
der kommerzielle Wettbewerb,

1545
01:07:04,291 --> 01:07:06,393
aber es stellt sich heraus
Ich mache mir noch mehr Sorgen

1546
01:07:06,426 --> 01:07:08,428
Der geopolitische Wettbewerb.

1547
01:07:08,462 --> 01:07:10,665
Wir waren acht Jahre im Rückstand
vor einem Jahr.

1548
01:07:10,698 --> 01:07:12,800
Jetzt sind wir es wahrscheinlich
weniger als ein Jahr im Rückstand.

1549
01:07:12,834 --> 01:07:16,236
Nun, beides Saudi-Arabien
und die Vereinigten Arabischen Emirate haben Rennen gefahren

1550
01:07:16,270 --> 01:07:18,673
Rechenzentren einzurichten
und sich positionieren

1551
01:07:18,706 --> 01:07:20,675
<i>als die dominierende Kraft in der KI...</i>

1552
01:07:20,708 --> 01:07:22,710
...um Südkorea zu machen
ein globaler KI-Marktführer.

1553
01:07:22,744 --> 01:07:24,411
JULIA SIEGER:
Der französische Präsident Emmanuel Macron

1554
01:07:24,444 --> 01:07:26,380
viel darüber gesprochen
Künstliche Intelligenz...

1555
01:07:26,413 --> 01:07:27,715
Jetzt mit mehr über die Rolle Israels

1556
01:07:27,749 --> 01:07:29,817
in der künstlichen Intelligenz
Revolution...

1557
01:07:29,851 --> 01:07:33,487
Die Länder werden konkurrieren
für deren KI-Technologien

1558
01:07:33,521 --> 01:07:35,355
die nächste Generation erschaffen
der Industrie.

1559
01:07:35,389 --> 01:07:38,626
Die Chinesen bestehen darauf
dass KI,

1560
01:07:38,660 --> 01:07:40,360
wie in China entwickelt,

1561
01:07:40,394 --> 01:07:42,095
<i>Stärken Sie die Grundwerte</i>

1562
01:07:42,129 --> 01:07:44,431
<i>der Kommunistischen Partei Chinas</i>
<i>und das chinesische System.</i>

1563
01:07:44,464 --> 01:07:49,269
Amerika muss China besiegen
im KI-Rennen.

1564
01:07:49,303 --> 01:07:51,639
DANIEL: Chinas, so
Lichtjahre zurück.

1565
01:07:51,673 --> 01:07:53,240
Sind sie?

1566
01:07:53,273 --> 01:07:55,442
Ich meine, sie haben viel mehr
Trainingsdaten als wir,

1567
01:07:55,475 --> 01:07:58,312
und es gibt nichts, was sie sagen
Lassen Sie nächsten Monat kein Modell fallen

1568
01:07:58,345 --> 01:08:01,415
das ist nicht--
übertrifft GPT-4 nicht weit.

1569
01:08:01,448 --> 01:08:04,318
Es lief alles bestens.
Was könnte schief gehen?

1570
01:08:04,351 --> 01:08:07,254
-DeepSeek... (spricht Chinesisch)
-DeepSeek... -DeepSeek...

1571
01:08:07,287 --> 01:08:08,455
Es gibt ein neues Modell.

1572
01:08:08,488 --> 01:08:11,325
Aber aus einem chinesischen Labor
namens DeepSeek.

1573
01:08:11,358 --> 01:08:14,428
Reden wir über DeepSeek,
weil es umwerfend ist,

1574
01:08:14,461 --> 01:08:18,231
und es erschüttert dies
die gesamte Branche bis ins Mark.

1575
01:08:18,265 --> 01:08:19,701
Die Trump-Administration
wird dafür sorgen

1576
01:08:19,734 --> 01:08:23,470
das ist das Mächtigste
KI-Systeme werden in den USA gebaut

1577
01:08:23,503 --> 01:08:27,174
mit amerikanischem Design
und hergestellte Chips.

1578
01:08:27,207 --> 01:08:29,343
KI ist Chinas Sache
Apollo-Projekt.

1579
01:08:29,376 --> 01:08:30,745
<i>Die Kommunistische Partei Chinas</i>

1580
01:08:30,778 --> 01:08:32,179
<i>versteht das Potenzial zutiefst</i>

1581
01:08:32,212 --> 01:08:33,380
<i>Damit KI die Kriegsführung stört.</i>

1582
01:08:33,413 --> 01:08:35,650
Google verspricht nichts mehr
dass es nicht so sein wird

1583
01:08:35,683 --> 01:08:38,886
Künstliche Intelligenz nutzen
für Waffen oder Überwachung.

1584
01:08:38,920 --> 01:08:40,487
China, Nordkorea, Russland

1585
01:08:40,521 --> 01:08:42,222
Ich werde es weiter bauen
so schnell wie möglich

1586
01:08:42,255 --> 01:08:44,792
<i>um mehr wirtschaftliche Vorteile zu erzielen</i>
<i>mehr Produktivitätsvorteil</i>

1587
01:08:44,826 --> 01:08:47,361
<i>größerer wissenschaftlicher Vorteil</i>
<i>mehr militärischer Vorteil</i>

1588
01:08:47,394 --> 01:08:48,896
<i>weil KI bessere Waffen herstellt.</i>

1589
01:08:48,930 --> 01:08:52,299
Wenn Sie darüber reden
ein ebenso breites und leistungsfähiges System

1590
01:08:52,332 --> 01:08:53,635
als brillanter Wissenschaftler,

1591
01:08:53,668 --> 01:08:58,271
es könnte in der Lage sein, zu laufen
ein militärischer Feldzug

1592
01:08:58,305 --> 01:09:01,743
besser als jeder der Generäle
in der US-Regierung im Moment.

1593
01:09:01,776 --> 01:09:06,213
Taiwan ist das Problem
derzeit die größte Spannung

1594
01:09:06,246 --> 01:09:08,382
zwischen Peking und den USA.

1595
01:09:08,415 --> 01:09:10,918
Es gibt ein-ein direktes
oppositionelle Meinungsverschiedenheit

1596
01:09:10,952 --> 01:09:12,452
<i>zwischen den USA und China</i>

1597
01:09:12,486 --> 01:09:14,454
<i>darüber, ob Taiwan</i> ist
<i>Teil von China.</i>

1598
01:09:14,488 --> 01:09:18,926
MATHENY: <i>Taiwan ist wichtig</i>
<i>aus so vielen Gründen.</i>

1599
01:09:18,960 --> 01:09:20,828
Es ist auch die Heimat von

1600
01:09:20,862 --> 01:09:24,565
etwa 90 % des fortschrittlichen Chips
Fertigung für die Welt,

1601
01:09:24,599 --> 01:09:28,903
<i>was bedeutet, dass die Versorgung</i>
<i>Kette für erweiterte Rechenleistung</i>

1602
01:09:28,936 --> 01:09:31,506
<i>ist gefährdet, sollte dies der Fall sein</i>

1603
01:09:31,539 --> 01:09:33,440
<i>irgendein Szenario</i>
<i>rund um Taiwan,</i>

1604
01:09:33,473 --> 01:09:37,712
<i>ob eine Blockade</i>
<i>oder eine Invasion durch China.</i>

1605
01:09:38,311 --> 01:09:40,948
HENDRYCKS:
<i>Werden wir an einem Rennen teilnehmen</i>?

1606
01:09:40,982 --> 01:09:45,853
zwischen den USA und China
das entwickelt sich schließlich zu

1607
01:09:45,887 --> 01:09:49,891
<i>ein militarisiertes KI-Wettrüsten und</i>
<i>Sie wissen schon, potenzielle Leads</i>

1608
01:09:49,924 --> 01:09:51,659
<i>zu einem Großmachtkonflikt?</i>

1609
01:09:51,693 --> 01:09:53,493
NICK SCHIFRIN: <i>Der Aufgeschlossene</i>
<i>Oberster US-Militärkommandant</i>

1610
01:09:53,528 --> 01:09:56,396
<i>in der Region</i>
<i>Vorhergesagter Krieg würde kommen.</i>

1611
01:09:56,430 --> 01:09:58,432
Ich denke, die Bedrohung ist offensichtlich
in diesem Jahrzehnt

1612
01:09:58,465 --> 01:09:59,967
und zwar in den nächsten sechs Jahren.

1613
01:10:00,001 --> 01:10:01,769
MATHENY:
<i>Ähm, eines der Szenarien</i>

1614
01:10:01,803 --> 01:10:06,406
worüber ich mir Sorgen mache, ist
ein Cyber-Flash-Krieg,

1615
01:10:06,440 --> 01:10:11,445
<i>ähm, einer, in dem</i>
<i>Cyber-Tools, die autonom sind</i>

1616
01:10:11,478 --> 01:10:13,447
<i>konkurrieren gegeneinander</i>

1617
01:10:13,480 --> 01:10:15,248
auf eine Art und Weise, die eskalierend ist

1618
01:10:15,282 --> 01:10:17,317
ohne
sinnvolle menschliche Kontrolle.

1619
01:10:19,386 --> 01:10:20,755
HARARI:
<i>Sie leben in einem Kriegsgebiet</i>

1620
01:10:20,788 --> 01:10:24,357
Es wird eine KI sein, die darüber entscheidet
ob Sie Ihr Haus bombardieren sollen

1621
01:10:24,391 --> 01:10:26,326
<i>und ob ich dich töten soll.</i>

1622
01:10:26,359 --> 01:10:27,995
Lassen wir die Maschine entscheiden.

1623
01:10:28,029 --> 01:10:29,731
<i>Das ist die Versuchung.</i>

1624
01:10:29,764 --> 01:10:32,867
<i>Deshalb ist KI so verlockend</i>
<i>für die Übernahme durch das Militär</i>

1625
01:10:32,900 --> 01:10:36,003
<i>um autonome Waffen zu entwickeln</i>
<i>denn wenn ich anfange zu glauben</i>

1626
01:10:36,037 --> 01:10:39,607
<i>das ist mein militärischer Gegner</i>
<i>wird KI einführen,</i>

1627
01:10:39,640 --> 01:10:42,375
<i>Es wird ein Wettlauf darum, wer es kann</i>
<i>Betätigen Sie den Abzug schneller.</i>

1628
01:10:42,409 --> 01:10:45,445
Und derjenige, der automatisiert
diese Entscheidung,

1629
01:10:45,479 --> 01:10:47,615
anstatt zu haben
ein Mensch auf dem Laufenden,

1630
01:10:47,648 --> 01:10:49,817
ist derjenige
Das wird diesen Krieg gewinnen.

1631
01:10:49,851 --> 01:10:51,284
Und wenn Sie darüber nachdenken

1632
01:10:51,318 --> 01:10:53,755
das nukleare Wettrüsten
in den 1940er Jahren...

1633
01:10:54,689 --> 01:10:56,891
...Sie kennen die Deutschen
arbeiten an der Bombe,

1634
01:10:56,924 --> 01:11:01,361
also ist es nicht so einfach zu sagen
Robert Oppenheimer damals,

1635
01:11:01,394 --> 01:11:04,031
„Äh, du weißt schon, mach langsamer.“

1636
01:11:04,065 --> 01:11:05,900
Nachdem ich diesen Film gesehen habe,
es wird verwirrend sein,

1637
01:11:05,933 --> 01:11:07,300
Denn du wirst zurückgehen,

1638
01:11:07,334 --> 01:11:08,736
und morgen
Du wirst ChatGPT verwenden,

1639
01:11:08,770 --> 01:11:10,772
und es wird so sein
unglaublich hilfreich.

1640
01:11:10,805 --> 01:11:12,974
Und ich werde es auch nutzen, und
es wird unglaublich hilfreich sein.

1641
01:11:13,007 --> 01:11:16,611
Und du wirst sagen: „Warte mal
Ich habe gerade diesen Film über KI gesehen

1642
01:11:16,644 --> 01:11:18,513
„und existentielles Risiko
und all diese Dinge,

1643
01:11:18,546 --> 01:11:20,915
Und wo ist nochmal die Bedrohung?“

1644
01:11:20,948 --> 01:11:24,986
Und es ist nicht so, dass ChatGPT das ist
die existenzielle Bedrohung.

1645
01:11:25,019 --> 01:11:29,322
Das ist der Wettlauf um den Einsatz
der Mächtigste,

1646
01:11:29,356 --> 01:11:32,093
unergründlich,
unkontrollierbare Technologie,

1647
01:11:32,126 --> 01:11:35,630
unter dem Schlimmsten
Anreize möglich,

1648
01:11:35,663 --> 01:11:37,732
Das ist die existenzielle Bedrohung.

1649
01:11:38,398 --> 01:11:40,935
DANIEL:
Aber es kommt mir so vor

1650
01:11:40,968 --> 01:11:43,671
Wir befinden uns im Kontext eines Rennens.

1651
01:11:43,704 --> 01:11:46,473
-SUTSKEVER: Ja.
-Und es ist in einem wettbewerbsorientierten,

1652
01:11:46,507 --> 01:11:48,109
„Ich muss zuerst dort ankommen,
Ich muss das Rennen gewinnen“-Einstellung,

1653
01:11:48,142 --> 01:11:49,544
„musste gegen China antreten,

1654
01:11:49,577 --> 01:11:50,945
muss gegeneinander antreten
die anderen Labore.

1655
01:11:50,978 --> 01:11:52,412
Stimmt das nicht?

1656
01:11:52,445 --> 01:11:54,115
Heute ist es so.

1657
01:11:54,148 --> 01:11:57,552
Wir müssen uns also ändern
diese Renndynamik.

1658
01:11:58,519 --> 01:12:00,487
Meinst du nicht auch?

1659
01:12:00,521 --> 01:12:02,857
Ich denke, das wäre
wirklich sehr gut.

1660
01:12:04,158 --> 01:12:06,928
Ich-ich denke
Es gibt eine Art...

1661
01:12:06,961 --> 01:12:10,064
Mystik rund um KI
so fühlt es sich an

1662
01:12:10,097 --> 01:12:11,999
es fiel vom Himmel.

1663
01:12:12,033 --> 01:12:14,001
DANIEL: Ich denke darüber nach
als gottähnliche Technologie

1664
01:12:14,035 --> 01:12:15,970
ist ein Problem.

1665
01:12:16,003 --> 01:12:17,672
Ja.

1666
01:12:18,773 --> 01:12:20,473
Warum?

1667
01:12:20,508 --> 01:12:23,544
Es gibt eine Lizenz
an die Unternehmen, um...

1668
01:12:23,578 --> 01:12:26,714
(lacht)
keine Verantwortung übernehmen

1669
01:12:26,747 --> 01:12:31,418
für die Dinge, die die Software
das sie gebaut haben, tut es.

1670
01:12:31,451 --> 01:12:35,590
Wenn die Leute diese Verbindung herstellen würden,

1671
01:12:35,623 --> 01:12:37,859
vielleicht würde das so sein,
Helfen Sie ihnen, es wieder zu verstehen

1672
01:12:37,892 --> 01:12:42,462
die Dynamik von
all das Geld und die Macht und...

1673
01:12:42,495 --> 01:12:45,933
Chaos, das passiert...

1674
01:12:45,967 --> 01:12:47,602
Erstellen Sie diese Technologie.

1675
01:12:47,635 --> 01:12:49,737
Es sind ungefähr fünf Leute
Wer kontrolliert es, oder?

1676
01:12:49,770 --> 01:12:52,139
- Etwa fünf Männer?
-Im Grunde ja.

1677
01:12:52,173 --> 01:12:54,642
-Die CEOs?
-Ja.

1678
01:12:54,675 --> 01:12:55,977
Okay.

1679
01:12:57,178 --> 01:12:59,580
♪ ♪

1680
01:13:01,616 --> 01:13:03,618
DANIEL:
<i>Manchmal fühlt es sich so an</i>

1681
01:13:03,651 --> 01:13:07,755
<i>Ich war dabei</i>
<i>Einfach eine endlose Reise</i>

1682
01:13:07,788 --> 01:13:09,757
<i>zu versuchen, das zu verstehen.</i>

1683
01:13:09,790 --> 01:13:12,994
Weißt du, so
Ich besteige einen Berg...

1684
01:13:15,930 --> 01:13:19,634
<i>...und jedes Mal</i>
<i>Ich steige gerne einen Hügel hinauf</i>

1685
01:13:19,667 --> 01:13:21,035
<i>Ich glaube, ich habe die Spitze erreicht</i>

1686
01:13:21,068 --> 01:13:24,005
<i>aber es geht einfach weiter</i>
<i>und gehen und gehen.</i>

1687
01:13:24,038 --> 01:13:25,072
(Kameraklicks, Surren)

1688
01:13:25,106 --> 01:13:27,174
Aber nach allem, was ich gehört habe,

1689
01:13:27,208 --> 01:13:30,778
wenn ich raten müsste, was ist
auf dem Gipfel des Anxiety Mountain,

1690
01:13:30,811 --> 01:13:34,682
<i>Es sind diese fünf CEOs</i>
<i>von diesen fünf Unternehmen</i>

1691
01:13:34,715 --> 01:13:37,952
die irgendwie so sind wie die
Oppenheimer dieses Augenblicks.

1692
01:13:37,985 --> 01:13:40,054
Das sind die Jungs
Wer baut dieses Ding?

1693
01:13:40,087 --> 01:13:41,454
Ja.

1694
01:13:41,488 --> 01:13:44,659
Gibt es einen Plan?

1695
01:13:44,692 --> 01:13:46,827
Der Chef des Unternehmens
das macht ChatGPT

1696
01:13:46,861 --> 01:13:50,531
vor möglichen gewarnt
erheblicher Schaden für die Welt.

1697
01:13:50,564 --> 01:13:53,000
Ich denke, wenn diese Technologie
geht schief,

1698
01:13:53,034 --> 01:13:54,068
es kann ganz schön schiefgehen.

1699
01:13:54,101 --> 01:13:56,237
(Ausbrüche deutlichen Geplappers)

1700
01:13:56,270 --> 01:13:58,072
DANIEL:
<i>Fünf Jungs.</i>

1701
01:13:58,105 --> 01:14:01,943
Ich habe nie an uns gedacht
als Social-Media-Unternehmen.

1702
01:14:01,976 --> 01:14:06,814
Es fühlt sich an, als müsste ich es versuchen
und-und finde diese Typen...

1703
01:14:06,847 --> 01:14:07,515
Mm-hmm.

1704
01:14:07,548 --> 01:14:09,784
...und bringen Sie sie in den Film.

1705
01:14:10,584 --> 01:14:13,554
Sicherlich würden wir es bekommen
etwas Klarheit daraus.

1706
01:14:14,188 --> 01:14:15,723
(Kameraklicks, Surren)

1707
01:14:16,590 --> 01:14:19,860
<i>Ich meine, die Sache muss aufhören</i>
<i>Irgendwo, oder?</i>

1708
01:14:19,894 --> 01:14:21,862
(Windpfeifen)

1709
01:14:21,896 --> 01:14:23,731
♪ ♪

1710
01:14:24,398 --> 01:14:26,734
(Werkzeuge surren und klicken)

1711
01:14:27,668 --> 01:14:29,870
(knurren)

1712
01:14:34,608 --> 01:14:35,810
DANIEL:
Wie fühlt sich das an?

1713
01:14:35,843 --> 01:14:38,212
-Großartig.
-Ist das okay?

1714
01:14:38,245 --> 01:14:39,847
-Ja.
-(undeutliches Crew-Geschwätz)

1715
01:14:39,880 --> 01:14:41,582
-Kann ich den Sitz nach vorne bewegen?
-DANIEL: Ja, das kannst du.

1716
01:14:41,615 --> 01:14:42,717
Es ist, äh, es ist einfach
etwas umständlich.

1717
01:14:42,750 --> 01:14:43,985
Ich bin ein bisschen, wie...

1718
01:14:44,018 --> 01:14:45,619
Dario, wie fühlst du dich?
über diesen Stuhl?

1719
01:14:45,653 --> 01:14:47,588
Ähm, ja, der Stuhl ist gut.

1720
01:14:47,621 --> 01:14:49,290
-Ich wollte es nur verschieben
ein wenig nach vorne. -Okay.

1721
01:14:49,323 --> 01:14:51,125
Ich habe mir diesen Stuhl ausgesucht.

1722
01:14:51,158 --> 01:14:52,727
-Es ist ein guter Stuhl.
-Danke.

1723
01:14:52,760 --> 01:14:54,562
(Handy klingelt)

1724
01:14:58,332 --> 01:15:00,500
TED:
Und setz dich einfach hin.

1725
01:15:02,036 --> 01:15:03,104
Und dann hier durch,

1726
01:15:03,137 --> 01:15:05,006
wir schauen uns an
durch dieses Glas.

1727
01:15:05,039 --> 01:15:07,074
(Besetztzeichen ertönt)

1728
01:15:11,879 --> 01:15:13,948
Und im Stuhl zurücklehnen,
nach vorne beugen?

1729
01:15:13,981 --> 01:15:15,683
-DANIEL: Ja. Nun, was auch immer
bequem, denke ich. -Okay.

1730
01:15:15,716 --> 01:15:17,018
Es ist irgendwie cool.
Es gibt eine Menge Spiegel.

1731
01:15:17,051 --> 01:15:18,285
-Ist das-- okay.
-FRAU: Sam A., nimm eins. Markieren.

1732
01:15:18,319 --> 01:15:19,920
-Wie ist das?
-Gut. Danke schön.

1733
01:15:19,954 --> 01:15:21,622
DANIEL: Die Entstehung
von diesem Projekt ist, dass ich es war

1734
01:15:21,655 --> 01:15:23,290
zu Hause sitzen,
und ich habe damit herumgespielt,

1735
01:15:23,324 --> 01:15:24,859
Ich denke, Ihr Bildgenerator,

1736
01:15:24,892 --> 01:15:27,762
und ich war gleichzeitig,
Äh, ich habe Angst

1737
01:15:27,795 --> 01:15:29,897
-und wirklich beeindruckt.
-(lacht leise)

1738
01:15:29,930 --> 01:15:32,333
-Das ist die übliche Kombination.
-Und dann Schnitt

1739
01:15:32,366 --> 01:15:35,002
Meine Frau und ich finden es heraus
wir erwarten.

1740
01:15:35,036 --> 01:15:38,773
Und-und ich habe sozusagen
eine existenzielle Krise

1741
01:15:38,806 --> 01:15:40,775
wie meine Frau
im sechsten Monat schwanger.

1742
01:15:40,808 --> 01:15:43,577
Und ich denke, meine erste Frage,
was ich alle frage:

1743
01:15:43,611 --> 01:15:46,080
Es ist jetzt eine schreckliche Zeit
ein Kind haben?

1744
01:15:46,113 --> 01:15:47,848
Mache ich einen großen Fehler?

1745
01:15:47,882 --> 01:15:49,650
Ich erwarte ein Kind
auch im März. Mein erster.

1746
01:15:49,683 --> 01:15:50,918
-Du erwartest ein Kind?
-Ja.

1747
01:15:50,951 --> 01:15:52,319
-Sie erwarten im März?
-Erstes Kind.

1748
01:15:52,353 --> 01:15:53,788
-Mazel tov.
-Vielen Dank.

1749
01:15:53,821 --> 01:15:54,922
Ich war noch nie so aufgeregt
für alles.

1750
01:15:54,955 --> 01:15:57,091
-So fühle ich mich.
-Ja.

1751
01:15:57,124 --> 01:15:58,759
Aber du hast keine Angst?

1752
01:15:58,793 --> 01:16:03,064
Ich meine, ein Kind zu haben ist das
einfach diese bedeutsame Sache

1753
01:16:03,097 --> 01:16:05,633
dass ich, weißt du,
Ich bleibe jede Nacht wach, so

1754
01:16:05,666 --> 01:16:07,334
Ich lese diese Bücher darüber
wie man ein Kind großzieht,

1755
01:16:07,368 --> 01:16:08,769
und ich hoffe
Ich werde einen guten Job machen,

1756
01:16:08,803 --> 01:16:09,804
und es fühlt sich an
sehr überwältigend und--

1757
01:16:09,837 --> 01:16:12,673
aber ich habe keine Angst...

1758
01:16:12,706 --> 01:16:14,675
damit Kinder erwachsen werden
in einer Welt mit KI.

1759
01:16:14,708 --> 01:16:16,811
Das ist... das wird in Ordnung sein.

1760
01:16:16,844 --> 01:16:19,280
Das ist gut zu hören
kommt von dem Kerl.

1761
01:16:19,313 --> 01:16:21,082
Ich denke, es ist eine wunderbare Idee
Kinder haben.

1762
01:16:21,115 --> 01:16:23,784
Ich glaube, das sind die meisten
magische, unglaubliche Sache.

1763
01:16:23,818 --> 01:16:25,820
-(seufzt schwer)
-Es gibt so viel Unsicherheit,

1764
01:16:25,853 --> 01:16:27,188
Ich würde es fast einfach tun
was du sowieso tun wirst.

1765
01:16:27,221 --> 01:16:29,223
Ich weiß, dass das nicht der Fall ist
eine sehr zufriedenstellende Antwort,

1766
01:16:29,256 --> 01:16:32,359
aber es ist das einzige
Ich kann mir etwas einfallen lassen.

1767
01:16:32,393 --> 01:16:34,929
Unsere Kinder werden niemals...

1768
01:16:34,962 --> 01:16:37,331
Kenne eine Welt, die es nicht gibt
wirklich fortgeschrittene KI.

1769
01:16:37,364 --> 01:16:40,167
Tatsächlich werden unsere Kinder es nie tun
Sei schlauer als eine KI.

1770
01:16:40,201 --> 01:16:42,703
DANIEL: „Unsere Kinder werden es tun
niemals schlauer sein als eine KI“?

1771
01:16:42,736 --> 01:16:44,839
Nun, aus einem rohen,
Aus reiner IQ-Perspektive,

1772
01:16:44,872 --> 01:16:46,807
Das werden sie nie sein
intelligenter als eine KI.

1773
01:16:46,841 --> 01:16:48,309
Diese Vorstellung stimmt nicht
Dich ein wenig verunsichern?

1774
01:16:48,342 --> 01:16:51,712
Weil es mir ein Gefühl gibt
auf seltsame Weise ein wenig mulmig.

1775
01:16:51,745 --> 01:16:55,316
Ähm, es verunsichert mich
ein bisschen.

1776
01:16:55,349 --> 01:16:56,817
Aber es ist Realität.

1777
01:16:56,851 --> 01:16:58,819
DANIEL:
Okay, also Renndynamik.

1778
01:16:58,853 --> 01:17:01,655
Wir haben eine Menge Leute
die sich alle einig sind

1779
01:17:01,689 --> 01:17:03,190
dass das beängstigend ist.

1780
01:17:03,224 --> 01:17:05,126
Basierend auf den Zeitplänen, die
Viele Leute haben mir gegeben,

1781
01:17:05,159 --> 01:17:07,661
Wir haben zwischen zwei Monaten und
Fünf Jahre, um das herauszufinden.

1782
01:17:07,695 --> 01:17:09,063
-Ja.
-Und-und, ich schätze,

1783
01:17:09,096 --> 01:17:13,767
Meine größte Frage ist:
Warum können wir nicht einfach aufhören?

1784
01:17:14,768 --> 01:17:19,340
Das Problem mit, äh, äh,
„einfach aufhören“ ist das, ähm,

1785
01:17:19,373 --> 01:17:22,776
Mittlerweile gibt es viele, viele Gruppen
Auf der ganzen Welt, äh, äh,

1786
01:17:22,810 --> 01:17:26,113
dies bauen, z
viele Nationen, viele Unternehmen,

1787
01:17:26,147 --> 01:17:28,749
ähm, alles mit
unterschiedliche Motivationen.

1788
01:17:28,782 --> 01:17:31,152
Es gibt einige davon
Diese Unternehmen in diesem Bereich

1789
01:17:31,185 --> 01:17:34,455
wer ihre Position ist: „Wir wollen
diese Technologie zu entwickeln

1790
01:17:34,488 --> 01:17:36,323
unbedingt so schnell wie möglich.“

1791
01:17:36,357 --> 01:17:40,694
Und selbst wenn wir Gesetze verabschieden könnten
in den USA und in Europa,

1792
01:17:40,728 --> 01:17:42,897
wir müssen überzeugen...

1793
01:17:42,930 --> 01:17:45,266
Xi Jinping und Wladimir Putin
oder, wissen Sie,

1794
01:17:45,299 --> 01:17:47,968
wer auch immer ihre wissenschaftliche
Berater stehen auf ihrer Seite.

1795
01:17:48,002 --> 01:17:49,837
Das wird wirklich schwer.

1796
01:17:49,870 --> 01:17:51,238
Ich denke, es ist wahr

1797
01:17:51,272 --> 01:17:54,041
das, wenn zwei Leute sind
an genau der gleichen Stelle,

1798
01:17:54,074 --> 01:17:56,410
äh, derjenige, der bereit ist zu nehmen
Weitere Abkürzungen zum Thema Sicherheit

1799
01:17:56,443 --> 01:17:58,746
sollte irgendwie
„Komm zuerst dort hin.“

1800
01:17:58,779 --> 01:18:01,715
Äh, aber...

1801
01:18:01,749 --> 01:18:03,284
Wir können unseren Vorsprung nutzen

1802
01:18:03,317 --> 01:18:06,720
viel mehr Zeit zu verbringen
Sicherheitstests durchführen.

1803
01:18:06,754 --> 01:18:08,455
DANIEL:
Und-und was ist, wenn Sie es verlieren?

1804
01:18:08,489 --> 01:18:10,057
Du bekommst den Anruf
und du findest es heraus

1805
01:18:10,090 --> 01:18:12,092
dass du jetzt bist, sagen wir mal,
sechs Monate im Rückstand.

1806
01:18:12,126 --> 01:18:14,828
-Wh-Was passiert dann?
-Hängt davon ab, vor wem wir stehen.

1807
01:18:14,862 --> 01:18:17,364
Wenn es so ist,
eine gegnerische Regierung,

1808
01:18:17,398 --> 01:18:19,200
das ist wahrscheinlich wirklich schlimm.

1809
01:18:19,233 --> 01:18:21,902
Nehmen wir an, Sie erhalten den Anruf
dass China eine hat,

1810
01:18:21,936 --> 01:18:25,172
hat eine rekursive
sich selbst verbesserndes Mittel

1811
01:18:25,206 --> 01:18:27,808
oder so ähnlich, dass wir
sollte mir wirklich Sorgen machen.

1812
01:18:27,841 --> 01:18:30,010
Was tun... was-was passiert?

1813
01:18:31,478 --> 01:18:33,113
Ähm...

1814
01:18:35,950 --> 01:18:37,484
Dieser Fall würde erfordern...

1815
01:18:37,519 --> 01:18:41,088
der erste Schritt wäre
mit der US-Regierung zu sprechen.

1816
01:18:41,121 --> 01:18:43,457
Sam, vertraust du dem?
die Fähigkeit der Regierung, damit umzugehen

1817
01:18:43,490 --> 01:18:45,292
so etwas?

1818
01:18:46,427 --> 01:18:48,162
Ja, das tue ich tatsächlich.

1819
01:18:48,195 --> 01:18:50,030
Es gibt andere Dinge, die ich nicht tue
Vertrauen Sie darauf, dass die Regierung damit umgeht,

1820
01:18:50,064 --> 01:18:51,832
aber dieses spezielle Szenario,
Ich denke, sie würden es wissen...

1821
01:18:51,865 --> 01:18:53,167
sie-sie-- ja.

1822
01:18:53,200 --> 01:18:54,969
DANIEL: Wenn ja,
wie private Diskussionen

1823
01:18:55,002 --> 01:18:56,937
mit den anderen Jungs, deren
Finger sind am Abzug,

1824
01:18:56,971 --> 01:19:00,241
sozusagen, ähm,
Führen Sie diese privaten Diskussionen

1825
01:19:00,274 --> 01:19:01,875
erfülle dich mit Zuversicht

1826
01:19:01,909 --> 01:19:03,545
Oder machen sie dich,
äh, ängstlicher?

1827
01:19:03,578 --> 01:19:07,414
Schauen Sie, ich meine, ich kenne einige
von ihnen besser als andere.

1828
01:19:07,448 --> 01:19:10,417
Ähm, ich habe mehr Selbstvertrauen
in einigen von ihnen th-als ich

1829
01:19:10,451 --> 01:19:12,920
in anderen, wissen Sie,
wie bei, wie bei jedem Volk.

1830
01:19:12,953 --> 01:19:14,388
Du weißt schon,
Du denkst darüber nach, weißt du,

1831
01:19:14,421 --> 01:19:16,223
die Kinder in deiner High School
Klasse oder so, oder?

1832
01:19:16,257 --> 01:19:18,526
Wissen Sie, einige von ihnen sind,
Weißt du, wirklich süß.

1833
01:19:18,560 --> 01:19:20,961
Einige davon sind gut gemeint
aber nicht so effektiv.

1834
01:19:20,995 --> 01:19:22,930
Einige von ihnen sind,
Sie wissen schon, Mobber.

1835
01:19:22,963 --> 01:19:24,198
Einige von ihnen sind es
wirklich schlechte Leute.

1836
01:19:24,231 --> 01:19:26,300
(stottert)
Du-du irgendwie wirklich,

1837
01:19:26,333 --> 01:19:27,535
man sieht wirklich die Ausbreitung.

1838
01:19:27,569 --> 01:19:29,236
Weißt du, bin ich, bin ich,
bin ich zuversichtlich

1839
01:19:29,270 --> 01:19:31,071
Das wird jeder tun
das Richtige,

1840
01:19:31,105 --> 01:19:32,540
Dass alles klappen wird?

1841
01:19:32,574 --> 01:19:34,241
Ähm, nein, bin ich nicht.

1842
01:19:34,275 --> 01:19:36,010
Und da ist-da ist nichts
Daran kann ich etwas ändern, oder?

1843
01:19:36,043 --> 01:19:38,379
Weißt du, alles, was ich tun kann
ist-ist-drängen für die,

1844
01:19:38,412 --> 01:19:39,813
Drängen Sie auf das, wissen Sie,

1845
01:19:39,847 --> 01:19:41,181
auf die Regierung drängen
sich engagieren.

1846
01:19:41,215 --> 01:19:43,150
Aber letztendlich bin ich gerecht
auch eine Person da.

1847
01:19:43,183 --> 01:19:44,586
Das ist--
es liegt an uns allen

1848
01:19:44,619 --> 01:19:46,353
auf die Regierung drängen
sich engagieren.

1849
01:19:46,387 --> 01:19:49,023
Das ist das Wichtigste
Das müssen wir meiner Meinung nach tun

1850
01:19:49,056 --> 01:19:51,292
to-to, wissen Sie, Dinge festlegen
in die richtige Richtung.

1851
01:19:51,325 --> 01:19:53,160
Was mir Angst macht
darüber ist, wie,

1852
01:19:53,193 --> 01:19:56,463
die grundlegende Realität, dass die
Geschwindigkeit, mit der die Technologie

1853
01:19:56,497 --> 01:19:58,966
vermehrt sich und wächst
ist exponentiell,

1854
01:19:58,999 --> 01:20:02,002
und die Mechanismen zur Gesetzgebung
sind 300 Jahre alt,

1855
01:20:02,036 --> 01:20:03,304
-dauert ewig.
-Ja.

1856
01:20:03,337 --> 01:20:05,573
Ähm, ich-glaube ich
Es wird eine schwere Aufgabe sein.

1857
01:20:05,607 --> 01:20:07,274
Ich-ich stimme definitiv zu
mit dir dabei.

1858
01:20:07,308 --> 01:20:09,276
DANIEL: Weißt du,
wonach ich im wahrsten Sinne des Wortes suche

1859
01:20:09,310 --> 01:20:11,513
ist-ist wie,
„Hier sind Schritte, die, wie,

1860
01:20:11,546 --> 01:20:15,449
„Die Bosse werden
sich auf die Sicherheit konzentrieren,

1861
01:20:15,482 --> 01:20:18,586
um die Gefahr zu mildern
und maximieren Sie das Versprechen.

1862
01:20:18,620 --> 01:20:20,588
Und ich nicht,
Ich weiß es nicht, ich weiß es nicht

1863
01:20:20,622 --> 01:20:22,423
dass es das gibt
eine einfache Antwort darauf.

1864
01:20:22,456 --> 01:20:24,091
Ähm...

1865
01:20:26,360 --> 01:20:28,262
Ich meine, das ist vielleicht so
zu einfach,

1866
01:20:28,295 --> 01:20:30,632
aber du...

1867
01:20:30,665 --> 01:20:32,333
ein neues Modell erstellen,

1868
01:20:32,366 --> 01:20:35,202
Sie studieren und testen es
sehr sorgfältig.

1869
01:20:35,235 --> 01:20:37,871
Du hast es rausgebracht
nach und nach in die Welt,

1870
01:20:37,905 --> 01:20:40,074
und dann, immer mehr,
Du verstehst

1871
01:20:40,107 --> 01:20:41,875
ob das sicher ist oder nicht,
und wenn ja,

1872
01:20:41,909 --> 01:20:43,377
Sie können den nächsten Schritt machen.

1873
01:20:44,445 --> 01:20:47,414
Es klingt nicht so auffällig
als sozusagen ein brillanter Wissenschaftler

1874
01:20:47,448 --> 01:20:50,652
Eine Idee in einem entwickeln
Labor, um ein KI-System zu bauen, wie

1875
01:20:50,685 --> 01:20:54,355
vollkommen sicher und kontrollierbar
und alles andere,

1876
01:20:54,388 --> 01:20:56,190
aber es ist das, was ich glaube
wird passieren.

1877
01:20:56,223 --> 01:20:57,559
So ist es eben
Ich denke, das funktioniert.

1878
01:20:57,592 --> 01:20:59,561
Aber sagen wir es einfach
etwas Schreckliches passiert,

1879
01:20:59,594 --> 01:21:02,429
als ob ein Model locker wird
oder wird Schurke oder so.

1880
01:21:02,463 --> 01:21:04,031
Gibt es ein Protokoll?

1881
01:21:04,064 --> 01:21:06,266
Im wahrsten Sinne des Wortes
Ich stelle mir ein rotes Telefon vor.

1882
01:21:06,300 --> 01:21:07,635
-Ja.
-Es tut mir leid, dass ich daran gedacht habe

1883
01:21:07,669 --> 01:21:09,103
in Bezug auf Filme, aber, wie...

1884
01:21:09,136 --> 01:21:10,371
Es gibt ein Protokoll.

1885
01:21:10,404 --> 01:21:12,039
-Gibt es ein rotes Telefon?
auf deinem Schreibtisch? -NEIN.

1886
01:21:12,072 --> 01:21:13,508
(lacht):
Ist es ein Geheimnis?

1887
01:21:13,541 --> 01:21:15,643
Ich meine, äh, nein, das ist es nicht,
es ist nicht so schick oder dramatisch

1888
01:21:15,677 --> 01:21:17,512
wie Sie hoffen würden,
aber da ist, wissen Sie...

1889
01:21:17,545 --> 01:21:19,279
Wir haben es sozusagen durchdacht
diese Szenarien,

1890
01:21:19,313 --> 01:21:21,081
und wenn das passiert,
Wir werden diese Leute anrufen

1891
01:21:21,115 --> 01:21:22,349
in dieser Reihenfolge und tun Sie dies

1892
01:21:22,383 --> 01:21:24,017
und irgendwie machen
diese Entscheidungen, wenn, wie--

1893
01:21:24,051 --> 01:21:26,387
Das glaube ich
wenn Sie die Gelegenheit dazu haben

1894
01:21:26,420 --> 01:21:29,423
vorher nachdenken
eine Stresssituation eintritt,

1895
01:21:29,456 --> 01:21:30,991
das ist fast immer so
eine gute Idee.

1896
01:21:31,024 --> 01:21:32,226
Und es aufzuschreiben ist hilfreich.

1897
01:21:32,259 --> 01:21:34,128
-Vorbereitet zu sein ist hilfreich.
-Ja.

1898
01:21:34,962 --> 01:21:36,397
(seufzt) Du...

1899
01:21:36,430 --> 01:21:39,233
Es wäre unmöglich
dass ich dir gegenübersitze

1900
01:21:39,266 --> 01:21:41,669
und-und bitte dich, es mir zu versprechen
dass das gut gehen wird?

1901
01:21:41,703 --> 01:21:43,504
Das ist unmöglich.

1902
01:21:44,104 --> 01:21:46,173
Es gibt keine einfachen Antworten,
leider.

1903
01:21:46,206 --> 01:21:48,442
Äh, weil es so ist
eine Spitzentechnologie,

1904
01:21:48,475 --> 01:21:50,244
ähm, es gibt immer noch
viele Unbekannte.

1905
01:21:50,277 --> 01:21:52,714
Und das denke ich
das-das muss sein,

1906
01:21:52,747 --> 01:21:55,416
Ähm, äh, wissen Sie, verstanden

1907
01:21:55,449 --> 01:21:59,554
und-und daher die Notwendigkeit
für, äh, äh, etwas Vorsicht.

1908
01:21:59,587 --> 01:22:01,288
Ich wache auf, wissen Sie, jeden Tag,

1909
01:22:01,321 --> 01:22:04,024
das ist das, das ist das
Das Wichtigste, worüber ich nachdenke.

1910
01:22:04,057 --> 01:22:05,459
Nun, schau, ich bin ein Mensch,

1911
01:22:05,492 --> 01:22:08,596
und, wissen Sie, hat-hat
Jede Entscheidung war perfekt?

1912
01:22:08,630 --> 01:22:12,166
Darf ich überhaupt meine Beweggründe nennen?
waren immer völlig klar?

1913
01:22:12,199 --> 01:22:14,101
Natürlich nicht.
Das kann niemand sagen.

1914
01:22:14,134 --> 01:22:17,004
Das ist so
einfach nicht, wissen Sie...

1915
01:22:17,037 --> 01:22:19,173
das ist-das ist einfach nicht
wie Menschen arbeiten.

1916
01:22:19,206 --> 01:22:21,408
Die-die Geschichte der Wissenschaft
neigt dazu, das zu sein,

1917
01:22:21,442 --> 01:22:23,745
im Guten wie im Schlechten,
wenn etwas möglich ist--

1918
01:22:23,778 --> 01:22:27,414
und wir wissen jetzt, dass KI möglich ist
tun – die Menschheit tut es.

1919
01:22:27,448 --> 01:22:30,217
Das alles
was-würde passieren.

1920
01:22:30,250 --> 01:22:32,587
Dieser-dieser Zug
wird nicht aufhören.

1921
01:22:32,620 --> 01:22:34,722
Du kannst nicht davor treten
den Zug und halte ihn an.

1922
01:22:34,756 --> 01:22:36,724
Du wirst einfach zerquetscht.

1923
01:22:36,758 --> 01:22:39,226
ALTMANN:
Ich meine, es ist sehr stressig.

1924
01:22:40,194 --> 01:22:41,462
Weißt du, es gibt so etwas wie

1925
01:22:41,495 --> 01:22:43,197
viele Dinge
Viele von uns wissen es nicht.

1926
01:22:43,230 --> 01:22:47,000
Ich denke, die Geschichte
der wissenschaftlichen Entdeckung ist

1927
01:22:47,034 --> 01:22:48,736
eine des Nichtwissens
was du nicht weißt

1928
01:22:48,770 --> 01:22:50,204
und es herauszufinden, während du gehst.

1929
01:22:50,237 --> 01:22:53,575
Äh, aber ja, es ist ein...

1930
01:22:53,608 --> 01:22:55,976
Es ist eine stressige Art zu leben.

1931
01:22:56,811 --> 01:22:59,246
DANIEL: Richtig. Sam, danke
vielen Dank dafür.

1932
01:22:59,279 --> 01:23:01,081
-Und noch einmal, Mazel Tov.
-Danke schön. Und zu dir.

1933
01:23:01,114 --> 01:23:03,383
Vielen Dank. Danke, Leute.

1934
01:23:03,417 --> 01:23:06,253
♪ ♪

1935
01:23:08,388 --> 01:23:09,990
(seufzt)

1936
01:23:11,593 --> 01:23:13,528
(Elektrizität knistert)

1937
01:23:13,561 --> 01:23:16,363
-(Donner knallt)
-(knurren, grunzen)

1938
01:23:43,190 --> 01:23:45,392
-(VCR-Klicks)
-(Leitung klingelt)

1939
01:23:48,328 --> 01:23:49,797
-(Zeilenklicks)
-KEVIN ROHER: <i>Hallo.</i>

1940
01:23:49,831 --> 01:23:51,131
DANIEL:
<i>Hey, Papa, wie geht es dir?</i>

1941
01:23:51,164 --> 01:23:52,165
KEVIN:
<i>Gut. Wie geht es dir?</i>

1942
01:23:52,199 --> 01:23:53,500
<i>Arbeitest du? Was hast du vor?</i>

1943
01:23:53,535 --> 01:23:55,770
DANIEL:
<i>Ich arbeite an diesem KI-Film.</i>

1944
01:23:55,803 --> 01:23:58,305
KEVIN:
<i>Und wie läuft es?</i>

1945
01:23:58,338 --> 01:24:00,708
DANIEL:
<i>Weißt du, es... es ist wirklich...</i>

1946
01:24:00,742 --> 01:24:02,544
-JOANNE ROHER: <i>Hallo, Süße.</i>
-DANIEL: <i>Hallo Mama.</i>

1947
01:24:02,577 --> 01:24:04,344
JOANNE: <i>Also was ist</i>
<i>die Prämisse des Films?</i>

1948
01:24:04,378 --> 01:24:07,180
<i>Ist es ein Dokumentarfilm?</i>
<i>Kev, verwende keine Gewürze mehr.</i>

1949
01:24:07,214 --> 01:24:08,816
<i>Es ist bereits zu stark gewürzt.</i>

1950
01:24:08,850 --> 01:24:10,718
<i>Wir machen gerade Hühnchen.</i>

1951
01:24:10,752 --> 01:24:13,186
<i>-Ist es ein Dokumentarfilm oder was...</i>
-DANIEL: <i>Es geht um--</i>

1952
01:24:13,220 --> 01:24:14,421
<i>Der Film handelt von</i>
<i>das Ende der Welt.</i>

1953
01:24:14,454 --> 01:24:16,290
<i>Das Ende der Welt naht</i>

1954
01:24:16,323 --> 01:24:18,158
<i>und wir machen einen Film</i>
<i>über das Ende der Welt.</i>

1955
01:24:18,191 --> 01:24:20,327
-JOANNE: <i>Wirklich?</i>
-DANIEL: <i>Ja.</i>

1956
01:24:20,360 --> 01:24:22,162
KEVIN: <i>Irgendwie deprimierend</i>
<i>Film, das hört sich an.</i>

1957
01:24:22,195 --> 01:24:23,698
JOANNE:
<i>Ja.</i>

1958
01:24:23,731 --> 01:24:29,436
DANIEL: <i>Mir geht es sehr gut</i>
<i>wie-- diese sehr akute Angst.</i>

1959
01:24:29,469 --> 01:24:31,673
JOANNE: <i>Es ist so gruselig</i>
<i>Aber es muss sein--</i>

1960
01:24:31,706 --> 01:24:35,810
<i>Weißt du, hast du dich schon einmal getroffen</i>?
<i>einige superschlaue Leute</i>

1961
01:24:35,843 --> 01:24:38,312
<i>die Ihnen Antworten geben?</i>

1962
01:24:38,345 --> 01:24:40,113
DANIEL: <i>Das ist es</i>
<i>Es ist frustrierend.</i>

1963
01:24:40,147 --> 01:24:41,683
<i>Niemand weiß es.</i>

1964
01:24:41,716 --> 01:24:44,384
JOANNE:
<i>Alles, was ich dazu sagen kann, ist das</i>

1965
01:24:44,418 --> 01:24:50,190
<i>jede Generation hatte</i>
<i>So etwas Unheimliches.</i>

1966
01:24:50,223 --> 01:24:52,760
KEVIN: <i>Als ich geboren wurde, war es</i>
<i>die Kubakrise.</i>

1967
01:24:52,794 --> 01:24:54,596
(beständiger Herzschlag)

1968
01:24:54,629 --> 01:24:56,864
<i>Ich hatte einfach Angst davor</i>
<i>würde ein Atomkrieg werden.</i>

1969
01:24:56,898 --> 01:24:58,298
JOANNE:
<i>Ja, aber wir wussten es nicht</i>

1970
01:24:58,332 --> 01:24:59,534
<i>was sie tun würden und...</i>

1971
01:24:59,567 --> 01:25:01,168
KEVIN:
<i>Und die Welt ging nicht unter.</i>

1972
01:25:01,201 --> 01:25:02,202
<i>Alle sind aufgewacht</i>
<i>am nächsten Morgen</i>

1973
01:25:02,235 --> 01:25:03,871
<i>und wir machen immer noch unser Ding.</i>

1974
01:25:03,905 --> 01:25:05,439
DANIEL:
<i>Ich habe große Angst</i>

1975
01:25:05,472 --> 01:25:07,407
<i>besonders in</i>
<i>der Kontext von, wie,</i>

1976
01:25:07,441 --> 01:25:09,577
<i>-du weißt schon, das Baby und...</i>
-(fötaler Herzschlag pulsiert)

1977
01:25:09,611 --> 01:25:11,178
KEVIN:
<i>Es wird eine Lernkurve sein.</i>

1978
01:25:11,211 --> 01:25:12,479
JOANNE:
<i>Du wirst wieder in Ordnung sein.</i>

1979
01:25:12,513 --> 01:25:13,681
KEVIN: <i>Das geht nicht</i>
<i>Darüber kannst du nicht nachdenken</i>

1980
01:25:13,715 --> 01:25:14,849
<i>was du nicht kontrollieren kannst, Daniel.</i>

1981
01:25:14,882 --> 01:25:16,551
<i>Denken Sie daran.</i>

1982
01:25:16,584 --> 01:25:18,251
DANIEL (Stimme bricht):
<i>Ich fühle mich wirklich, ich fühle mich wirklich</i>

1983
01:25:18,285 --> 01:25:19,587
<i>nervös und verängstigt darüber.</i>

1984
01:25:19,621 --> 01:25:21,488
<i>Es gibt so viel</i>
<i>das ich nicht kontrollieren kann.</i>

1985
01:25:21,522 --> 01:25:24,358
KEVIN: <i>Sei nicht nervös.</i>
<i>Das darfst du nicht an dich heranlassen.</i>

1986
01:25:24,391 --> 01:25:26,794
<i>Sie können nur steuern</i>
<i>was Sie kontrollieren können</i>

1987
01:25:26,828 --> 01:25:28,395
<i>und das ist alles, was Sie tun können.</i>

1988
01:25:28,428 --> 01:25:31,231
<i>Mehr kann man nicht tun.</i>

1989
01:25:31,264 --> 01:25:33,433
<i>Schreiben Sie das in Ihr Buch.</i>

1990
01:25:35,870 --> 01:25:37,572
♪ ♪

1991
01:25:44,712 --> 01:25:47,447
(fötaler Herzschlag pulsiert)

1992
01:25:47,481 --> 01:25:49,651
(heult)

1993
01:25:49,684 --> 01:25:52,219
CAROLINE:
<i>Wenn Sie zurückblicken</i>

1994
01:25:52,252 --> 01:25:54,922
<i>Die Welt geht immer unter.</i>

1995
01:25:54,956 --> 01:25:57,357
<i>Und wenn Sie nach vorne schauen,</i>

1996
01:25:57,391 --> 01:25:59,627
<i>Die Welt geht immer unter.</i>

1997
01:25:59,661 --> 01:26:02,429
...in Flammen.
Ein Haus brennt bereits...

1998
01:26:02,462 --> 01:26:06,299
CAROLINE: <i>Aber die Welt</i>
<i>startet auch immer.</i>

1999
01:26:08,402 --> 01:26:10,437
DANIEL:
Bist du bereit?

2000
01:26:10,470 --> 01:26:12,674
Bist du jemals wirklich bereit?

2001
01:26:16,443 --> 01:26:18,278
DANIEL: Du willst fahren
Oder willst du, dass ich fahre?

2002
01:26:18,311 --> 01:26:19,547
CAROLINE:
Du fährst.

2003
01:26:20,815 --> 01:26:22,382
-(Frau spricht undeutlich)
-CAROLINE: Okay.

2004
01:26:22,416 --> 01:26:24,284
DANIEL:
Danke, Maria.

2005
01:26:24,317 --> 01:26:26,654
FRAU: Es wird einfach
fühle mich wirklich krampfhaft.

2006
01:26:26,688 --> 01:26:28,355
-CAROLINE: <i>Okay.</i>
-FRAU: <i>Bist du bereit?</i>

2007
01:26:28,388 --> 01:26:29,691
-CAROLINE: <i>Ja.</i>
<i>-(undeutliches Geplapper)</i>

2008
01:26:29,724 --> 01:26:30,958
<i>(Caroline seufzt schwer)</i>

2009
01:26:30,992 --> 01:26:33,326
FRAU: <i>Du könntest in einem sein</i>
<i>medizinisches Drama mit all dem...</i>

2010
01:26:34,595 --> 01:26:36,597
♪ ♪

2011
01:26:44,706 --> 01:26:46,607
-(statisches Knistern)
<i>-(undeutliches Geplapper)</i>

2012
01:26:49,610 --> 01:26:51,746
FRAU:
<i>...etwas Druck.</i>

2013
01:26:53,313 --> 01:26:54,749
<i>Entspannen Sie sich einfach.</i>

2014
01:26:57,451 --> 01:26:59,821
<i>-(Baby weint)</i>
<i>-(Gerät piept)</i>

2015
01:27:02,623 --> 01:27:05,626
DANIEL:
<i>Hallo, Kumpel. Ooh.</i>

2016
01:27:05,660 --> 01:27:06,961
<i>Hallo Kumpel.</i>

2017
01:27:06,994 --> 01:27:09,362
♪ ♪

2018
01:27:31,652 --> 01:27:34,321
KEVIN:
<i>Es wird eine ganz neue Welt sein</i>

2019
01:27:34,354 --> 01:27:35,723
<i>Für dich, Daniel.</i>

2020
01:27:37,658 --> 01:27:40,762
<i>Und ich denke, das wirst du auch tun</i>
<i>ein toller Vater.</i>

2021
01:27:41,863 --> 01:27:44,899
JOANNE (lacht):
<i>Das ist sicher.</i>

2022
01:27:44,932 --> 01:27:47,068
<i>-(Kevin weint)</i>
<i>-Oh.</i>

2023
01:27:47,101 --> 01:27:49,302
<i>(weint weiter)</i>

2024
01:27:49,336 --> 01:27:51,572
KEVIN:
<i>Du wirst einen tollen Job machen.</i>

2025
01:27:52,206 --> 01:27:53,541
JOANNE:
<i>Kev, warum weinst du?</i>

2026
01:27:53,574 --> 01:27:55,076
KEVIN:
<i>Ich weine, weil...</i>

2027
01:27:55,109 --> 01:27:57,545
<i>Ich weiß es nicht. Ich weiß es einfach nicht...</i>

2028
01:27:57,578 --> 01:27:59,914
DANIEL: <i>Dad, das wirst du</i>
<i>Bring mich auch zum Weinen.</i>

2029
01:27:59,947 --> 01:28:01,549
<i>Warum weinst du?</i>

2030
01:28:03,651 --> 01:28:05,853
KEVIN: <i>Das weiß ich einfach</i>
<i>Du wirst ein toller Vater sein.</i>

2031
01:28:05,887 --> 01:28:07,655
DANIEL (weinend):
<i>Ich werde nur ein großartiger Vater sein</i>

2032
01:28:07,688 --> 01:28:09,957
<i>Weil ich einen tollen Vater hatte.</i>

2033
01:28:09,991 --> 01:28:12,894
KEVIN: <i>Ich werde emotional</i>
<i>Das ist alles.</i>

2034
01:28:12,927 --> 01:28:14,327
JOANNE:
<i>Ach.</i>

2035
01:28:14,361 --> 01:28:15,462
(spielerisches Geschwätz über Video)

2036
01:28:15,495 --> 01:28:17,064
(über Video):
Junge, oh, Junge!

2037
01:28:17,098 --> 01:28:18,633
Meine Güte!

2038
01:28:19,267 --> 01:28:21,035
Schau dir diese kleinen Frechheiten an.

2039
01:28:21,068 --> 01:28:25,573
Schau dir diese kleinen Frechheiten an.
Schau dir diese kleinen Frechheiten an.

2040
01:28:25,606 --> 01:28:26,741
Ja.

2041
01:28:26,774 --> 01:28:29,376
DANIEL:
<i>Ich weiß, wie ich diesen Film beenden soll.</i>

2042
01:28:30,011 --> 01:28:31,712
<i>Babys.</i>

2043
01:28:32,379 --> 01:28:35,883
<i>-Das Ende des Films steht bevor</i>
<i>Babys.</i> – (Geschwätz über Videos)

2044
01:28:35,917 --> 01:28:37,618
<i>Sie sind lebensbejahend.</i>

2045
01:28:37,652 --> 01:28:39,486
<i>Sie sind anstrengend.</i>

2046
01:28:39,520 --> 01:28:41,421
-(Baby lacht)
<i>-Sie sind urkomisch.</i>

2047
01:28:41,454 --> 01:28:42,957
<i>Und sie sind es wert.</i>

2048
01:28:42,990 --> 01:28:46,828
<i>In diesem Film geht es nicht darum</i>
<i>Innenleben einer Technologie.</i>

2049
01:28:46,861 --> 01:28:48,696
<i>Es geht nicht darum</i>
<i>die milliardenschweren CEOs.</i>

2050
01:28:48,729 --> 01:28:50,665
<i>Es geht nicht um die Geopolitik.</i>

2051
01:28:50,698 --> 01:28:53,935
<i>Es geht nicht um das Erschreckende</i>
<i>Zukunft oder das Ende der Welt</i>

2052
01:28:53,968 --> 01:28:56,137
<i>weil meine Welt</i>
<i>fängt gerade erst an.</i>

2053
01:28:56,170 --> 01:28:57,972
Ich baue eine Krippe.

2054
01:28:58,005 --> 01:28:59,907
<i>Genau hier, genau jetzt.</i>

2055
01:28:59,941 --> 01:29:01,008
(Baby gurrt)

2056
01:29:01,042 --> 01:29:02,743
<i>KI wird alles verändern</i>

2057
01:29:02,777 --> 01:29:05,913
<i>auf viel zu mächtige Weise und</i>
<i>für uns komplex zu verstehen.</i>

2058
01:29:05,947 --> 01:29:09,717
<i>Und die Zukunft ist es nicht</i>
<i>Die Entscheidung liegt bei jedem von uns.</i>

2059
01:29:10,818 --> 01:29:13,921
<i>Aber was ich entscheiden kann, ist zu sein</i>
<i>der bestmögliche Ehemann</i>

2060
01:29:13,955 --> 01:29:17,992
<i>Für meine Frau und das Beste</i>
<i>möglicher Vater für meinen Sohn.</i>

2061
01:29:18,025 --> 01:29:21,796
<i>Ob also unsere KI-Zukunft ist</i>
<i>eine alptraumhafte Dystopie</i>

2062
01:29:21,829 --> 01:29:24,098
<i>oder die Utopie</i>
<i>von dem wir alle träumen,</i>

2063
01:29:24,131 --> 01:29:27,134
<i>Ich werde es zumindest wissen</i>
<i>dass ich alles getan habe, was ich konnte</i>

2064
01:29:27,168 --> 01:29:30,605
<i>um meine Familie zu führen</i>
<i>durch diese KI-Revolution.</i>

2065
01:29:30,638 --> 01:29:34,474
<i>Und egal was passiert,</i>
<i>wir werden es gemeinsam meistern.</i>

2066
01:29:34,508 --> 01:29:35,877
(aufmunternde Musik erklingt)

2067
01:29:35,910 --> 01:29:37,444
(Musik stoppt abrupt)

2068
01:29:37,477 --> 01:29:40,047
DANIEL:
Das ist also nur unsere erste Idee.

2069
01:29:40,715 --> 01:29:43,084
Wie fühlt sich das an?
Fühlst du das?

2070
01:29:43,117 --> 01:29:45,720
Warte, ich-- das ist nicht--
Das ist ein Witz.

2071
01:29:45,753 --> 01:29:48,388
Das ist es eigentlich nicht
wie du es beenden wirst.

2072
01:29:50,591 --> 01:29:53,160
Ich meine, es ist nur eine Idee. Okay?

2073
01:29:53,194 --> 01:29:54,996
Nein, Daniel.

2074
01:29:55,029 --> 01:29:56,631
...äh, sehr, sehr dumm.

2075
01:29:56,664 --> 01:29:59,166
Du hast gerade Geld ausgegeben, ich nicht
Ich weiß, wie viele Jahre

2076
01:29:59,200 --> 01:30:03,104
unseres Lebens daran arbeiten,
Gespräche mit allen führenden Experten

2077
01:30:03,137 --> 01:30:05,539
auf dem Planeten über das Thema,

2078
01:30:05,573 --> 01:30:08,175
und du wirst es beenden

2079
01:30:08,209 --> 01:30:11,444
mit einigen, wie,
Kumbaya-Bullshit?

2080
01:30:11,478 --> 01:30:14,048
Da ist ein Asteroid
auf dem Weg zur Erde.

2081
01:30:14,081 --> 01:30:15,917
Was machst du? Nur...

2082
01:30:15,950 --> 01:30:18,152
Händchen halten
und hoffe, dass es klappt?

2083
01:30:18,185 --> 01:30:19,854
Absolut nicht.

2084
01:30:19,887 --> 01:30:22,924
Wir müssen-- es ha--
es muss sein...

2085
01:30:22,957 --> 01:30:25,026
Das Ende muss...

2086
01:30:26,493 --> 01:30:28,529
CAROLINE:
<i>Okay, als erstes:</i>

2087
01:30:28,562 --> 01:30:32,033
<i>KI ist da,</i>
<i>und es wird bleiben.</i>

2088
01:30:32,066 --> 01:30:33,534
Die Scheiße ist aus dem Pferd,

2089
01:30:33,567 --> 01:30:36,436
<i>aber das Pferd ist</i>
<i>Ich werde weiter scheißen.</i>

2090
01:30:38,873 --> 01:30:39,807
(Menge jubelt)

2091
01:30:39,840 --> 01:30:41,943
Wissen Sie, eines der Grundprinzipien
Gesetze der Geschichte

2092
01:30:41,976 --> 01:30:44,578
ist das nichts
wirklich einen Anfang haben

2093
01:30:44,612 --> 01:30:46,580
und nichts hat ein Ende.

2094
01:30:46,614 --> 01:30:48,049
Es geht einfach weiter.

2095
01:30:48,082 --> 01:30:50,918
KI ist noch lange nicht da
seine volle Entfaltung.

2096
01:30:50,952 --> 01:30:53,087
CAROLINE: <i>Auch wenn</i>
<i>die aktuelle KI-Blase platzt,</i>

2097
01:30:53,120 --> 01:30:54,956
<i>-Menschen werden niemals aufhören</i>
-(Krachmacher bläst)

2098
01:30:54,989 --> 01:30:57,959
<i>immer mehr bauen</i>
<i>leistungsstarke Technologie.</i>

2099
01:30:57,992 --> 01:30:59,827
HAO:
<i>Sie können sich dafür entscheiden, keine KI zu verwenden</i>

2100
01:30:59,860 --> 01:31:02,730
oder daran teilnehmen, aber es ist
wird dich sowieso beeinflussen.

2101
01:31:02,763 --> 01:31:04,231
DANIEL: Okay, fantastisch.
Wir sind also am Arsch.

2102
01:31:04,265 --> 01:31:07,568
CAROLINE: Nein, das sind wir nicht
wegen einer einfachen Sache.

2103
01:31:11,572 --> 01:31:13,574
Dies ist nicht unvermeidlich.

2104
01:31:13,607 --> 01:31:15,576
Wenn wir es nur sehen könnten
klar zusammen,

2105
01:31:15,609 --> 01:31:18,813
Die offensichtliche Antwort wird sein
etwas anderes wählen.

2106
01:31:18,846 --> 01:31:21,615
Wir müssen es ganz klar sagen
das Spiel ändern

2107
01:31:21,649 --> 01:31:23,517
von einem Wettlauf nach unten
in einen Wettlauf nach oben.

2108
01:31:23,551 --> 01:31:27,855
LEAHY: Das Problem, das wir lösen müssen
Solve ist nicht speziell KI.

2109
01:31:27,888 --> 01:31:31,726
Das ist die allgemeine Frage
Wie bauen wir eine Gesellschaft auf?

2110
01:31:31,759 --> 01:31:34,528
damit kann man umgehen
leistungsstarke Technologie.

2111
01:31:34,562 --> 01:31:35,830
Weil wir es bekommen werden

2112
01:31:35,863 --> 01:31:37,264
nur immer mächtiger
Technologie.

2113
01:31:37,298 --> 01:31:40,034
CAROLINE:
<i>Wir müssen unsere Gesellschaft verbessern</i>

2114
01:31:40,067 --> 01:31:41,902
<i>und der erste Schritt ist</i>
<i>zusammenkommen</i>

2115
01:31:41,936 --> 01:31:43,838
<i>-und anspruchsvoll...</i>
-ALLE: Koordination.

2116
01:31:43,871 --> 01:31:47,608
Irgendwie international
Zusammenarbeit oder Vereinbarung darüber

2117
01:31:47,641 --> 01:31:48,909
was die Normen sein sollten.

2118
01:31:48,943 --> 01:31:50,544
Weißt du, wie sollte
sie werden eingesetzt...

2119
01:31:50,578 --> 01:31:52,146
Eigentlich echt
Internationale Diplomatie

2120
01:31:52,179 --> 01:31:53,781
unter den Supermächten.

2121
01:31:53,814 --> 01:31:56,784
Die Chinesen sind ebenso besorgt
darüber wie die Amerikaner.

2122
01:31:56,817 --> 01:31:58,085
Ich denke, es ist schwierig,
Du weißt schon,

2123
01:31:58,119 --> 01:31:59,920
im Strom
geopolitisches Klima,

2124
01:31:59,954 --> 01:32:01,756
-aber ich denke, es ist notwendig.
-RASKIN: <i>Absolut.</i>

2125
01:32:01,789 --> 01:32:05,059
Genauso
das letzte Mal, dass die Menschheit

2126
01:32:05,092 --> 01:32:09,163
<i>eine Technologie entwickelt</i>
<i>Das ist gefährlich...</i>

2127
01:32:09,830 --> 01:32:12,900
...das erforderte eine vollständige,
beispielloser Wandel

2128
01:32:12,933 --> 01:32:15,169
<i>zur Struktur unserer Welt.</i>

2129
01:32:15,770 --> 01:32:18,172
CAROLINE:
<i>Also müssen wir das vollständig machen</i>

2130
01:32:18,205 --> 01:32:20,307
<i>wieder beispiellose Veränderung.</i>

2131
01:32:21,008 --> 01:32:24,678
Wissen Sie, wir reden mit den Leuten
die bei diesen KI-Unternehmen arbeiten,

2132
01:32:24,712 --> 01:32:25,846
und sie sagen, dass sie es tun wollen
etwas anderes,

2133
01:32:25,880 --> 01:32:27,048
Aber sie brauchen öffentlichen Druck.

2134
01:32:27,081 --> 01:32:28,716
Sie brauchen die Regierung
etwas tun.

2135
01:32:28,749 --> 01:32:30,217
Dann gehen wir nach DC,
und sie sagen,

2136
01:32:30,251 --> 01:32:32,153
„Nun, wir brauchen Silicon Valley
etwas anderes machen.

2137
01:32:32,186 --> 01:32:34,021
Sie sind diejenigen, die es tun werden
Überlegen Sie sich die Leitplanken.

2138
01:32:34,055 --> 01:32:36,057
Und so zeigen alle
der Finger auf jemand anderen,

2139
01:32:36,090 --> 01:32:39,927
und worüber sie sich einig sind, ist
dass wir öffentlichen Druck brauchen

2140
01:32:39,960 --> 01:32:41,796
um etwas anderes zu erreichen
passieren.

2141
01:32:41,829 --> 01:32:43,164
Und das ist es, was Sie

2142
01:32:43,197 --> 01:32:44,799
und alle Leute
Das Anschauen dieses Films kann reichen.

2143
01:32:44,832 --> 01:32:45,833
CAROLINE:
<i>Wir müssen die Anführer halten</i>

2144
01:32:45,866 --> 01:32:47,334
<i>in unseren Regierungen</i>

2145
01:32:47,368 --> 01:32:48,969
<i>und die Führer von</i>
<i>Diese Unternehmen sind verantwortlich.</i>

2146
01:32:49,003 --> 01:32:51,639
BOEREE:
<i>Egal in welchem Land Sie sich befinden,</i>

2147
01:32:51,672 --> 01:32:53,340
lass es sie wissen
dass du nicht glücklich bist

2148
01:32:53,374 --> 01:32:54,975
mit dem aktuellen Status Quo.

2149
01:32:55,009 --> 01:32:57,678
Also, ja, es ist langweilig zu sagen
Rufen Sie Ihren Kongressabgeordneten an.

2150
01:32:57,711 --> 01:32:59,880
Ich sage nicht, dass du das tun solltest
Mach das einfach, aber so,

2151
01:32:59,914 --> 01:33:01,215
das müssen wir tun.

2152
01:33:01,248 --> 01:33:02,883
Wir müssen es bekommen
die beteiligte Regierung.

2153
01:33:02,917 --> 01:33:04,185
DANIEL: Also wir einfach
Rufen Sie sie an und sagen Sie:

2154
01:33:04,218 --> 01:33:06,253
„Hey, hör auf mit Big Tech
davor, die Welt zu ruinieren“?

2155
01:33:06,287 --> 01:33:09,223
CAROLINE: Nein, aber es gibt sie
Tonnenweise wirklich Offensichtliches,

2156
01:33:09,256 --> 01:33:11,225
einfache Dinge
Wir können anspruchsvoll sein.

2157
01:33:11,258 --> 01:33:12,960
Wir brauchen Transparenz.

2158
01:33:12,993 --> 01:33:14,795
Wir müssen die Geheimhaltung beenden
das in diesen Laboren existiert,

2159
01:33:14,829 --> 01:33:17,031
weil sie bauen
leistungsstarke Technologie,

2160
01:33:17,064 --> 01:33:19,066
und die Öffentlichkeit hat es verdient, es zu erfahren
was ist los.

2161
01:33:19,100 --> 01:33:21,068
Letztendlich,
Wir werden unabhängige Menschen brauchen,

2162
01:33:21,102 --> 01:33:23,637
objektive Dritte
die Systeme zu bewerten.

2163
01:33:23,671 --> 01:33:27,274
Auf die Unternehmen können wir nicht zählen
um ihre eigenen Hausaufgaben zu benoten.

2164
01:33:27,308 --> 01:33:31,378
Wenn-wenn ein Unternehmen KI einsetzt und-und
interagiert die KI mit Ihnen,

2165
01:33:31,412 --> 01:33:35,249
es sollte offenbaren, dass Sie es sind
Interaktion mit einem KI-System.

2166
01:33:35,282 --> 01:33:39,019
Ja. Und-und auch wir brauchen
ein System, das Unternehmen macht

2167
01:33:39,053 --> 01:33:42,156
gesetzlich haftbar für die
KI-Systeme, die sie produzieren.

2168
01:33:42,189 --> 01:33:46,293
Das müssen wir dort sicherstellen
sind Prüfungen und Sicherheitsstandards

2169
01:33:46,327 --> 01:33:48,662
die für alle gelten.

2170
01:33:48,696 --> 01:33:50,097
Wir brauchen einige Grundregeln,

2171
01:33:50,131 --> 01:33:51,999
und wir müssen uns weiter anpassen
diese Regeln

2172
01:33:52,032 --> 01:33:55,002
mit der Geschwindigkeit, die
die Technologie entwickelt sich.

2173
01:33:55,035 --> 01:33:57,738
LEAHY: <i>Aktuell gibt es</i>
<i>mehr Regulierung</i>

2174
01:33:57,771 --> 01:33:59,840
<i>über den Verkauf eines Sandwiches</i>
<i>an die Öffentlichkeit</i>

2175
01:33:59,874 --> 01:34:03,410
als es am Gebäude gibt
möglicherweise weltuntergangsbringende AGI.

2176
01:34:03,444 --> 01:34:05,279
CAROLINE:
<i>Und das Letzte ist</i>

2177
01:34:05,312 --> 01:34:07,214
<i>um uns selbst zu verbessern.</i>

2178
01:34:07,915 --> 01:34:10,284
Das ist nicht der Job
des Sicherheitsteams

2179
01:34:10,317 --> 01:34:12,153
in einem bestimmten Labor oder beim CEO.

2180
01:34:12,186 --> 01:34:13,854
Das ist also so
jedermanns Aufgabe.

2181
01:34:13,888 --> 01:34:15,156
Lass es nicht so
bis hin zu den KI-Experten.

2182
01:34:15,189 --> 01:34:17,424
So (piep) das.
Das ist der richtige Moment

2183
01:34:17,458 --> 01:34:19,460
dass wir uns im Übergang befinden
von, wie,

2184
01:34:19,493 --> 01:34:22,163
hauptsächlich menschliche kognitive Fähigkeit
zu, wie der kognitiven Kraft der KI,

2185
01:34:22,196 --> 01:34:23,197
und es betrifft jeden,

2186
01:34:23,230 --> 01:34:25,166
und ich möchte, dass die Menschen es sind
an diesem Gespräch teilnehmen.

2187
01:34:25,199 --> 01:34:27,234
Und ich würde sagen, wenn Sie denken
dass KI uns alle töten wird,

2188
01:34:27,268 --> 01:34:28,969
Du solltest arbeiten
in der KI-Forschung

2189
01:34:29,003 --> 01:34:30,804
um sicherzustellen, dass dies nicht der Fall ist,
weil du es hast

2190
01:34:30,838 --> 01:34:32,773
eine enorme Menge an Entscheidungsfreiheit.

2191
01:34:32,806 --> 01:34:34,208
CAROLINE:
<i>Wer auch immer du bist</i>

2192
01:34:34,241 --> 01:34:36,177
<i>Sie sind ein Experte</i>
<i>in Ihrer eigenen Branche</i>

2193
01:34:36,210 --> 01:34:39,413
<i>in Ihrer eigenen Schule</i>
<i>in Ihrer eigenen Familie,</i>

2194
01:34:39,446 --> 01:34:43,050
<i>und es liegt an Ihnen</i>
<i>wie KI in Ihrem Leben eingesetzt wird.</i>

2195
01:34:43,083 --> 01:34:45,319
Ob Sie mitmachen möchten
Ihre Schulbehörde

2196
01:34:45,352 --> 01:34:48,389
oder-oder ob du fragen willst
Ihr Arbeitgeber

2197
01:34:48,422 --> 01:34:49,924
wie sie es verwenden
KI-Technologien,

2198
01:34:49,957 --> 01:34:52,259
Wir alle können die Arbeit machen.

2199
01:34:52,293 --> 01:34:56,330
Viele Gewerkschaften waren dabei
ziemlich effektiv bei, wie,

2200
01:34:56,363 --> 01:34:59,333
<i>bestimmen, wie sie wollen</i>
<i>um mit diesen Systemen zu interagieren.</i>

2201
01:34:59,366 --> 01:35:02,303
<i>-Gewerkschaften von Krankenschwestern und Lehrern.</i>
-(undeutlicher Gesang)

2202
01:35:02,937 --> 01:35:05,039
DANIELA AMODEI: <i>Das würde ich lieben</i>
<i>wenn Eltern überall</i>

2203
01:35:05,072 --> 01:35:06,407
ging an die KI-Unternehmen
und sagte:

2204
01:35:06,440 --> 01:35:08,342
„Wie kann man besser werden?
dazu?" Einschließlich uns.

2205
01:35:08,375 --> 01:35:11,445
Also habe ich Encode Justice gegründet
als ich 15 Jahre alt war.

2206
01:35:11,478 --> 01:35:15,082
<i>Wir sind die Ersten der Welt</i>
<i>und größte Armee junger Leute</i>

2207
01:35:15,115 --> 01:35:18,452
<i>Kampf für eine menschenzentrierte Ausrichtung</i>
<i>künstliche Intelligenz.</i>

2208
01:35:18,485 --> 01:35:21,288
Es spielt keine Rolle, wer du bist,
schon die kleinsten Taten helfen,

2209
01:35:21,322 --> 01:35:24,291
und sogar ein Gespräch beginnt
ist wirklich, wirklich wertvoll.

2210
01:35:24,325 --> 01:35:26,293
DANIEL:
<i>Mein Job könnte also sein,</i>

2211
01:35:26,327 --> 01:35:28,295
<i>Erzähl Bubby Lila davon</i>
<i>beim Abendessen?</i>

2212
01:35:28,329 --> 01:35:30,364
CAROLINE: <i>Ganz ehrlich, ja</i>
<i>Das gehört dazu.</i>

2213
01:35:30,397 --> 01:35:32,099
Und wir werden es tun müssen

2214
01:35:32,132 --> 01:35:34,969
viele Dinge, die
daran haben wir noch gar nicht gedacht.

2215
01:35:35,002 --> 01:35:36,503
Die Leute werden es sich ansehen
alles, was wir skizziert haben

2216
01:35:36,538 --> 01:35:37,838
und sagen: „Das ist nicht genug.“

2217
01:35:37,871 --> 01:35:39,473
Was zählt, sind die Kräfte

2218
01:35:39,507 --> 01:35:41,242
die funktionieren
hin zu Lösungen

2219
01:35:41,275 --> 01:35:44,979
beginnen, die Kräfte zu überschreiten, die
arbeiten gegen Lösungen.

2220
01:35:45,012 --> 01:35:46,947
Die Welt besser machen
war schon immer schwer.

2221
01:35:46,981 --> 01:35:48,249
Es war noch nie einfach.

2222
01:35:48,282 --> 01:35:50,317
So wie es sie gab
viele beschissene Dinge

2223
01:35:50,351 --> 01:35:52,286
das ist in der Geschichte passiert,
und wir hatten--

2224
01:35:52,319 --> 01:35:54,121
so wie es die Leute hatten
damit umzugehen,

2225
01:35:54,154 --> 01:35:57,191
und dann sind sie aufgestanden
und es geändert.

2226
01:35:57,224 --> 01:36:00,894
Es gibt wahnsinnig viele
der vor uns liegenden Herausforderungen,

2227
01:36:00,928 --> 01:36:04,398
Aber wenn wir an ihnen vorbeikommen,

2228
01:36:04,431 --> 01:36:08,536
Wir können eine Zukunft darüber hinaus eröffnen
unsere wildeste Fantasie.

2229
01:36:08,570 --> 01:36:10,804
CAROLINE:
<i>Wir müssen zusammenkommen</i>

2230
01:36:10,838 --> 01:36:14,875
<i>und finden Sie den Pfad dazwischen</i>
<i>das Versprechen und die Gefahr.</i>

2231
01:36:14,908 --> 01:36:17,177
<i>Wir können keine Pessimisten sein</i>
<i>oder Optimisten.</i>

2232
01:36:17,778 --> 01:36:20,180
<i>Wir müssen etwas Neues werden.</i>

2233
01:36:22,182 --> 01:36:25,185
Ein Freund von mir ruft mich an
ein apokalyptischer Optimist.

2234
01:36:25,219 --> 01:36:26,186
„Apokaloptimist“?

2235
01:36:26,220 --> 01:36:28,889
Ich denke, das könnte sein
mein neues Lieblingswort.

2236
01:36:28,922 --> 01:36:30,291
-(lacht) -MANN: Könnte sein
der Name dieses Films.

2237
01:36:30,324 --> 01:36:31,892
-Es könnte der Name sein
dieses Films. -(Gelächter)

2238
01:36:31,925 --> 01:36:34,862
- „Apokaloptimist.“
- „Apokaloptimist.“

2239
01:36:34,895 --> 01:36:36,430
Ja.

2240
01:36:36,463 --> 01:36:37,898
Ich glaube nicht an den Untergang.

2241
01:36:37,931 --> 01:36:39,366
Ich glaube an den Geist des Lebens,

2242
01:36:39,400 --> 01:36:43,137
Ähm, und ich glaube an das Leben
über die Handlungsfähigkeit.

2243
01:36:43,170 --> 01:36:44,905
-(Volksgesang)
<i>-Die Fähigkeit zur Beziehung,</i>

2244
01:36:44,938 --> 01:36:47,141
<i>die Fähigkeit zu fühlen.</i>

2245
01:36:49,376 --> 01:36:51,345
-(undeutliches Missionsgeschwätz)
-(jubelnd)

2246
01:36:51,378 --> 01:36:54,315
<i>Wir müssen uns verdoppeln</i>
<i>immer mehr</i>

2247
01:36:54,348 --> 01:36:57,384
<i>auf diesen Kapazitäten</i>
<i>das wir als Menschen haben</i>

2248
01:36:57,418 --> 01:36:59,853
<i>dass Robotersysteme</i> sind
<i>werde es nie tun.</i>

2249
01:37:00,487 --> 01:37:04,559
Jetzt ist es an der Zeit
um diese Entscheidungen zu treffen

2250
01:37:04,592 --> 01:37:08,062
wie man es leitet und unterstützt
anstatt uns zu spalten.

2251
01:37:08,095 --> 01:37:10,898
DANIEL: Es hört sich irgendwie so an
ein Kind großziehen.

2252
01:37:10,931 --> 01:37:12,634
Das ist es, was los ist. Ja.

2253
01:37:12,667 --> 01:37:15,035
CAROLINE: <i>KI könnte das haben</i>
<i>mehr rohe Intelligenz</i>

2254
01:37:15,069 --> 01:37:17,471
<i>-als unser kleines menschliches Gehirn</i>
-(Baby lacht)

2255
01:37:17,504 --> 01:37:20,608
<i>aber wir sind so viel mehr</i>
<i>nicht nur unsere Intelligenz.</i>

2256
01:37:21,208 --> 01:37:25,379
Intelligenz ist-ist
die Fähigkeit, Probleme zu lösen.

2257
01:37:25,412 --> 01:37:29,116
Weisheit ist die Fähigkeit zu wissen
welche Probleme gelöst werden müssen.

2258
01:37:31,519 --> 01:37:34,188
(undeutliches Geschwätz der Crew)

2259
01:37:34,221 --> 01:37:35,489
DANIEL:
Es kann auf Ihren Kühlschrank gestellt werden.

2260
01:37:35,523 --> 01:37:36,658
(lacht)

2261
01:37:36,691 --> 01:37:38,626
JUDKOWSKY:
<i>Also, geben Sie nicht auf.</i>

2262
01:37:38,660 --> 01:37:40,227
Die Menschheit hat es geschafft

2263
01:37:40,260 --> 01:37:43,030
schwierigere Dinge als diese
in seiner Geschichte.

2264
01:37:43,897 --> 01:37:46,967
Es ist einfach schwer zu überzeugen
Menschen, die sie sollten.

2265
01:37:47,000 --> 01:37:49,336
♪ ♪

2266
01:37:52,072 --> 01:37:53,273
(Audio knistert)

2267
01:37:55,309 --> 01:37:57,277
DANIEL: <i>Als ich angefangen habe</i>
<i>Diesen Film machen</i>

2268
01:37:57,311 --> 01:37:59,012
<i>Ich würde sagen, dass ich so war</i>

2269
01:37:59,046 --> 01:38:01,348
im Großen und Ganzen ein zynisches Arschloch
über diese ganze Sache.

2270
01:38:01,382 --> 01:38:03,450
<i>Im Laufe des Kurses</i>
<i>den Film zu machen</i>

2271
01:38:03,484 --> 01:38:05,152
<i>Ich habe es verstanden</i>
<i>das, so,</i>

2272
01:38:05,185 --> 01:38:06,987
<i>Das ist das Einzige</i>
<i>Das können wir nicht sein.</i>

2273
01:38:07,756 --> 01:38:09,990
<i>...oder irgendetwas anderes</i>
<i>Möchten Sie darüber sprechen?</i>

2274
01:38:10,023 --> 01:38:11,992
Nein. Ich denke, wir haben viel abgedeckt.

2275
01:38:12,025 --> 01:38:13,561
-Ja. (lacht)
-MANN: Vielen Dank.

2276
01:38:13,595 --> 01:38:15,295
Danke.

2277
01:38:15,929 --> 01:38:17,498
DANIEL:
<i>Das ist ein größeres Problem</i>

2278
01:38:17,532 --> 01:38:19,400
<i>als jede einzelne Person.</i>

2279
01:38:19,433 --> 01:38:22,136
<i>Dies wird die Welt verändern</i>
<i>Wege, die wir nicht verstehen.</i>

2280
01:38:22,169 --> 01:38:24,037
<i>Das ist alles wahr.</i>

2281
01:38:24,071 --> 01:38:26,106
-(lacht): Okay.
-(undeutliches Geplapper)

2282
01:38:26,140 --> 01:38:28,208
DANIEL:
<i>Aber wir haben Entscheidungsfreiheit darüber</i>

2283
01:38:28,242 --> 01:38:30,411
<i>ist das, was wir dagegen tun.</i>

2284
01:38:30,444 --> 01:38:33,113
Während die Grenz-KI wächst
exponentiell leistungsfähiger...

2285
01:38:33,147 --> 01:38:34,682
DANIEL:
<i>Und die Realität</i>

2286
01:38:34,716 --> 01:38:37,151
<i>ist das, wenn wir uns einfach entscheiden</i>
<i>es ist hoffnungslos</i>

2287
01:38:37,184 --> 01:38:39,420
<i>Dann ist es hoffnungslos.</i>

2288
01:38:39,453 --> 01:38:41,221
...um weniger Stress zu verursachen
auf dem Planeten Erde...

2289
01:38:41,255 --> 01:38:43,257
DANIEL:
<i>Aber wenn Sie sich entscheiden</i>

2290
01:38:43,290 --> 01:38:46,293
<i>das Sie ausprobieren möchten...</i>

2291
01:38:47,194 --> 01:38:48,563
<i>...dann versuchen Sie es.</i>

2292
01:38:48,596 --> 01:38:50,931
<i>Und das ist schwer.</i>

2293
01:38:51,733 --> 01:38:53,500
<i>Aber wissen Sie was?</i>

2294
01:38:53,535 --> 01:38:57,137
<i>Große Dinge scheinen unmöglich</i>
<i>Bevor sie tatsächlich passieren.</i>

2295
01:38:58,673 --> 01:39:01,676
<i>Aber wenn sie endlich passieren,</i>

2296
01:39:01,709 --> 01:39:05,713
<i>Es liegt daran, dass Millionen von Menschen</i>
<i>Millionen von Maßnahmen ergriffen</i>

2297
01:39:05,747 --> 01:39:08,182
<i>um sie zu verwirklichen.</i>

2298
01:39:08,215 --> 01:39:10,752
<i>Und so...</i>

2299
01:39:10,785 --> 01:39:13,220
<i>Wir müssen es versuchen.</i>

2300
01:39:14,087 --> 01:39:15,523
(seufzt schwer)

2301
01:39:21,663 --> 01:39:24,298
<i>Es steht zu viel auf dem Spiel.</i>

2302
01:39:24,331 --> 01:39:26,366
♪ ♪

2303
01:39:33,040 --> 01:39:35,375
(Film knistert)

2304
01:39:37,545 --> 01:39:41,749
Schauen Sie sich die unglaublichen Veränderungen an
wir haben es erlebt und überlebt

2305
01:39:41,783 --> 01:39:43,317
aus der Steinzeit,

2306
01:39:43,350 --> 01:39:46,487
und doch noch größere Veränderungen
kommen noch.

2307
01:39:46,521 --> 01:39:50,090
(„Ich habe es durch Versuche verloren“
von Son Lux gespielt)

2308
01:40:19,086 --> 01:40:21,288
♪ ♪

2309
01:40:48,181 --> 01:40:50,718
♪ Was machen wir jetzt? ♪

2310
01:40:50,752 --> 01:40:53,755
♪ Wir haben den Mut verloren, es zu versuchen ♪

2311
01:40:53,788 --> 01:40:55,690
♪ Wir haben es verloren ♪

2312
01:40:55,723 --> 01:40:57,457
♪ Zum Ausprobieren ♪

2313
01:41:00,193 --> 01:41:02,764
♪ Was machen wir jetzt? ♪

2314
01:41:02,797 --> 01:41:05,733
♪ Wir haben den Mut verloren, es zu versuchen ♪

2315
01:41:05,767 --> 01:41:07,602
♪ Wir haben es verloren ♪

2316
01:41:07,635 --> 01:41:09,469
♪ Zum Ausprobieren ♪

2317
01:41:12,205 --> 01:41:14,709
♪ Was können wir jetzt sagen? ♪

2318
01:41:14,742 --> 01:41:17,745
♪ Unser Mund lügt nur ♪

2319
01:41:17,779 --> 01:41:19,212
♪ Unsere Münder ♪

2320
01:41:19,246 --> 01:41:21,448
♪ Nur Lügen ♪

2321
01:41:25,720 --> 01:41:28,255
♪ Was können wir jetzt sagen? ♪

2322
01:41:28,288 --> 01:41:31,358
♪ Unser Mund lügt nur ♪

2323
01:41:31,391 --> 01:41:32,760
♪ Unsere Münder ♪

2324
01:41:32,794 --> 01:41:34,762
♪ Nur Lügen ♪

2325
01:41:34,796 --> 01:41:37,197
♪ ♪

2326
01:42:01,522 --> 01:42:04,291
♪ Gib nach und verschwinde ♪

2327
01:42:04,324 --> 01:42:07,294
♪ Wir erheben uns im Sterben ♪

2328
01:42:07,327 --> 01:42:08,763
♪ Wir erheben uns ♪

2329
01:42:08,796 --> 01:42:11,164
♪ Im Sterben ♪

2330
01:42:13,568 --> 01:42:16,336
♪ Gib nach und verschwinde ♪

2331
01:42:16,370 --> 01:42:19,272
♪ Wir erheben uns im Sterben ♪

2332
01:42:19,306 --> 01:42:20,775
♪ Wir erheben uns ♪

2333
01:42:20,808 --> 01:42:23,176
♪ Im Sterben ♪

2334
01:42:25,546 --> 01:42:28,248
♪ Gib nach und verschwinde ♪

2335
01:42:28,281 --> 01:42:31,251
♪ Wir erheben uns im Sterben ♪

2336
01:42:31,284 --> 01:42:32,787
♪ Wir erheben uns ♪

2337
01:42:32,820 --> 01:42:35,155
♪ Im Sterben ♪

2338
01:42:37,558 --> 01:42:40,293
♪ Gib nach und verschwinde ♪

2339
01:42:40,327 --> 01:42:43,263
♪ Wir erheben uns im Sterben ♪

2340
01:42:43,296 --> 01:42:44,532
♪ Wir ♪

2341
01:42:44,565 --> 01:42:46,601
♪ ♪

2342
01:43:16,263 --> 01:43:18,465
♪ ♪

2343
01:43:23,336 --> 01:43:25,840
♪ Oh, oh, oh, oh, oh ♪

2344
01:43:25,873 --> 01:43:27,675
♪ Oh, oh, oh, oh ♪

2345
01:43:27,709 --> 01:43:28,943
♪ Oh, oh ♪

2346
01:43:28,976 --> 01:43:31,913
♪ Oh, oh, oh, oh, oh, oh ♪

2347
01:43:31,946 --> 01:43:33,648
♪ Oh, oh, oh, oh ♪

2348
01:43:33,681 --> 01:43:34,916
♪ Oh, oh ♪

2349
01:43:34,949 --> 01:43:37,552
♪ Oh, oh, oh, oh, oh, oh ♪

2350
01:43:37,585 --> 01:43:40,287
♪ Was machen wir jetzt? ♪

2351
01:43:40,320 --> 01:43:43,290
♪ Wir haben den Mut verloren, es zu versuchen ♪

2352
01:43:43,323 --> 01:43:45,026
♪ Wir haben es verloren ♪

2353
01:43:45,059 --> 01:43:46,861
♪ Zum Ausprobieren ♪

2354
01:43:46,894 --> 01:43:49,530
♪ Oh, oh, oh, oh, oh, oh ♪

2355
01:43:49,564 --> 01:43:52,332
♪ Was machen wir jetzt? ♪

2356
01:43:52,365 --> 01:43:55,335
♪ Wir haben den Mut verloren, es zu versuchen ♪

2357
01:43:55,368 --> 01:43:57,038
♪ Wir haben es verloren ♪

2358
01:43:57,071 --> 01:43:58,940
♪ Zum Ausprobieren. ♪

2359
01:43:58,973 --> 01:44:01,374
♪ ♪

2360
01:44:23,798 --> 01:44:24,865
(Lied endet)